SNS時代に広がる生成AI

　生成AIは急速に私たちの生活に浸透しており、市場規模は2025年に約590億米ドル、2031年には約4,000億米ドルに拡大すると予測されている（Statista, 2025）。これまで生成AIは、効率化や自動化などビジネス用途での利用が中心だったが、最近は日常生活の支援や創作活動など個人用途へと広がりつつある。

　なかでも音声・画像・動画を生成するAI技術は著しい進歩を遂げており、作画の才や映像制作の技術がなくても、誰しも高品質なコンテンツを生み出せるようになった。SNSとの親和性も高く、デジタルネイティブ世代が社会の中心層となるにつれて、生成AIの利用者は今後さらに増加すると考えられる。

音声・動画生成AIがもたらす課題

　一方で、精度の高い画像や動画がSNS上で共有されることで、新たな社会的課題が生じている。

　第1に、生成AIにより捏造・改ざんされた情報が、あたかも本物のように拡散されてしまうことだ。写真や動画が持つ「証拠性」が悪用され、偽情報の拡散や詐欺などに利用されるケースもある。ジャーナリストの古田大輔氏も、「ソーシャルメディア上で拡散する詐欺広告など、手付かずのままに広がり続ける事例は多数ある。」と指摘している（『日本と世界の課題2024』）。

　第2に、生成AIの学習データや、そこから生成されたコンテンツが著作権侵害につながる懸念だ。記憶に新しいところでは、OpenAIの動画生成AI「Sora2」による生成映像が、日本のアニメやゲーム作品に登場するキャラクターに酷似しているとしてSNS上で議論を呼んだ。ドラえもんやピカチュウが違和感なく共演する動画が生成されるなど、作品本来の世界観を逸脱する描写がリアルに再現される状況にある。また、実在の人物と見分けがつかない、架空の人物の偽インタビュー動画が生成できるなど、本物と偽物の区別が一層困難になっている。

対策に乗り出す企業・団体

　こうした状況に対し、企業や業界団体はさまざまな対応を進めている。

　YouTubeは、AI生成や改変による顔・声の無断使用をAIで検出できる「類似性検出（Likeness Detection）」機能の提供を開始し、本人確認によってクリエイターが検出された動画に対して削除を要請できる仕組みを整えた。

　また、コンテンツ産業に携わる企業が加盟する「コンテンツ海外流通促進機構（CODA）」は、会員企業のコンテンツを無許諾でAIの学習対象としないことなどを求めた要望書をOpen AIに提出している（CODA, 2025）。さらに、日本の出版業界や日本漫画家協会などは、「生成AI時代の創作と権利のあり方に関する共同声明」を発表し、生成AIによる著作権侵害リスクに対する強い懸念を示している（図1）。

　生成AIは人間の創造性を刺激し、表現の幅を広げる力を持つ。しかし、生成物が私的利用の範囲を超えてSNSなどで広く公開されれば、経験や思いを込めて作品を生み出す人々の努力や価値が軽視されかねない。SNSでの共有には、生成物を他者と共有したい純粋な動機から、収益化を狙う意図までさまざまな背景があるが、結果として創作者への敬意は損なわれる。こうした状況が常態化すれば、人々の創造的であろうとする気持ちを奪いかねない。

個人の尊厳や創作者の権利を守りながら生成AIを活用する

　では、人間の創造性を守りながら、どのように生成AIと共生していくべきか。技術、政策、倫理の3つの側面から取り組むことが重要だと考える。

　技術面では、YouTubeの例のように、進化するAIを適切に監視・制御するためのAI技術の開発が欠かせないだろう。古田大輔氏も前掲書で、「AIにAIで対抗するような技術開発は進んでいる」と述べている。

　政策面では、生成AIの学習に用いられる著作物の権利保護や、AI生成であることの明示など、ルール整備が不可欠だ。2025年施行のAI法は、AIのイノベーション促進とリスク対応を目的としているが、違反しても法的処罰の対象にはならないため、より踏み込んだ規制や運用の検討が必要となるだろう。

　そして倫理面では、生成AIの利用ルールやマナーについて社会全体で認識を高めるとともに、個人を特定できる顔や声、創作者や作品の権利を尊重する姿勢が求められる。換言すれば、他者の価値や努力に敬意を払う文化を育むことが不可欠だ。情報通信研究機構理事長の徳田英幸氏も「生成AIを人類の利益のために活用するには、技術開発とともに倫理や社会的課題について議論を深め、技術者、政策決定者、そして私たち1人ひとりが責任を持った対応を取ることが重要だ」と指摘している（『日本と世界の課題2025』）。

　生成AIは創作の可能性を広げる「道具」であるが、人間の創作意欲を損なう使い方は望ましくない。作品に経験や創意、想いを込められるのは人間だ。つまり、創造性の主体は人間にあるべきだ。この前提に立って、個人の尊厳や創作者の権利を守りながら生成AIを活用することが求められる。

参考文献

執筆者

羽木千晴（はぎ　ちはる）
NIRA総合研究開発機構在外嘱託研究員