1件
反AIとは、
ここでは主に２について記述し、１についても軽く触れる。
概要
「反AI」という単語は生成AIが話題になる以前から確認できる。古くからSF作品ではロボットや人工知能が人類に反逆するテーマが定番の１つになっており、そのような人工知能忌避を取り扱った作品で「反AI」という単語は昔から使われてきた。例えばアダルトゲーム『BALDR SKY』の作中では親AI派と反AI派の組織が存在し両者の抗争が作品のテーマの１つになっている、
また現実でも、生成AI以前からAI技術に反対する集団に対して使われていた。グーグル、雇用支援に1100億円 「反AI」に備え
現在の意味で広まったきっかけは海外のイラストサイト「Artistation」で行われた「AIアート」に対する反対運動「NO AI」運動(記事上部のイラストのようなマークがシンボルとして扱われた)に対して共感した国内の有名イラストレーターが「反AI活動」と反応したことから端を発し
ツイートを読み込み中です
https://twitter.com/you629/status/1618111973610385410
この活動内容が国内でも話題になり画像生成AIを始めとするAIアートに反対する人達の意味で現在の「反AI」というワードが広がった。消された少女の“反AI”マーク 「無断改変したのは俺です」この「反AI」という単語は既存の「反原発」や「反ワクチン」など技術に対して忌避感情を持つ集団と同じ文脈で語られる。
程度や理由は様々である。「絶対に許さない。徹底的に排除するべき」という人もいれば、「AIが無断学習して、イラストレーターの画風や技術を盗んでしまうことに問題がある。」「AIがイラストレーターの仕事を奪ってしまう可能性があるから怖い」程度で、AI技術やAIの使用そのものまでは否定しない人もいる。
画像生成AIの歴史は一般的に2014年にイアン・グッドフェローらによって提案された生成的敵対ネットワーク（GAN）より始まったと言われ、現在主流となっている潜在拡散モデル(Latent Diffusion Models)が考案されることで急速に発展することになる。そして、2022年頃になると「Stable diffusion」や「Midjourney」といった画像生成AIが登場し一般的に普及することになる。このAIはまだ無から新しいイラストやキャラクターを創造するのではなく、既存の人が描いたイラストを学習し、学習した内容からイラストを出力するというものである。このため、イラストレーターの描いた絵が無断で学習され、類似品が出回ってしまうということを問題視する人間が存在し、反AI層の中で語られることの多い論点である。イラストレーターの画風などは、イラストレーターが何回も絵を練習して得た努力の結果であり、それがAIに無断学習されるというのが倫理的に問題がないのか？ということである。
描いた「モノ」そのものならば、著作権が発生するので、侵害してはならないというのは簡単にわかることである。しかし、著作権法での「画風」に関しては著作権は、「思想又は感情を創作的に表現した」著作物を保護するものであり、単なるデータ(事実)やアイデア(作風・画風など)は含まれない。とされている。
初期のAIでは、「手づかみでラーメンを食べる」「手がぐしゃぐしゃ」「名前が同じキャラクターや似た台詞などを混同してしまいキメラになってしまう（キュアヤムヤムの格好をした夢見りあむができあがるなど）」「題名の意味を正しく理解できない（ぼっち・ざ・ろっく！を描かせると巨大な岩の前に立ち尽くす男の画像ができあがる。鉄オタを描かせると金属をコレクションするデブが描かれるなど）」など、AI使用者の意図通りの出力がなされない場合が多かったが、今ではかなり精巧なイラストを生成することができるようになっている。
その他の反対する理由
AIの発展でイラストレーターが失職する
将来的にはアニメーターやイラストレーターが仕事をAIに奪われるのではないか、という懸念。
みんな努力して絵が上手くなったのに努力をせずAI絵師が楽をしてイラストを描くのはおかしい！
感情論的かもしれないけどそうかもしれません。ただしアナログ絵師から見ればデジタル絵師は技術の恩恵で相当楽しているのでは？という指摘もある。
ニコニコ静画やpixiv等のサイトにAI絵が氾濫し検索妨害になる
生成AIによって出力された、似たような画風のイラストが大量に投稿され見たいイラストが見られなくなる、イラストが氾濫することによる検索妨害になるなどの問題。プラットフォームによってはルールとして「AI生成」というようなタグを付けることが決められていたり、AIイラストの投稿を禁止したりしていることが多いので、投稿者に守ってもらうしかない。ちゃんとタグが付いていれば検索除けでAI絵をはじくことができる。
反AI活動の問題点
著作権遵守に関する意識の低さの問題
生成AIに対する大きな論点の１つとして著作権の侵害をしているという主張が挙げられるが、当の反AI層が著作権の侵害を堂々と行っている点が批判されている。特に有名なのは反AI活動における政治的行動を行っている「クリエイターとAIの未来を考える会」が2023年4月にNHKで記者会見を開き、生成AIに対する問題点を主張したが、その発表を行った理事がその日の内に「ぼっち・ざ・ろっく」などガイドラインで二次創作を禁止している作品の二次創作でお金稼ぎをしていたことが発覚・・・ではなく隠さずに堂々と行っていたとして炎上した。この炎上により、生成AIに対して批判が大半であったネット世論に変化が起こったとという見方ができる。
その後も次々と反AI層の中心人物がガイドライン無視の二次創作イラストや同人グッズで金稼ぎを行っていることが発覚する。特に反AI層の主な活動拠点とされるエックス(旧Twitter)では、自分は他人の著作物でアイコンを設定し、漫画のコマなど他人の作品を無断転載しながら生成AIを批判する事は日常的に行われており、反AI層に否定的な人物から著作権に対する意識の低さや知識の無さを指摘されることがある。
また、反AI層による適法では無い二次創作を賛美し、適法に行われている生成AI開発や利用を非難するといった、いわばダブルスタンダードとも形容できる姿勢が批判の的となることもある。
著作権法に対する理解が進んでいない問題
生成AIを語る上で著作権法第30条の4 著作物に表現された思想又は感情の享受を目的としない利用は一大論点になっているが、そもそも反AIは著作権法に対する基礎知識の無さが度々露呈している。
前述の通りアイデア(作風・画風)は著作物には含まれない。著作権は法律に定められた著作物の利用行為を対象にした権利(支分権)しか無く、そこには機械学習を禁止する権利は無い。著作権侵害は依拠性と類似性を基準に判断する。著作権法には特別な場合に著作物を無断で利用することが認められている権利制限規定が存在する。など、著作権を語るうえでは必須となる知識を備えていない、もしくは無視してしまう人物が反AIの中には相当数存在する。
そのため、法律や資料の内容に関して、一般的とは言えない解釈をしてしまうことが度々あり、反AI層とそうでない層との衝突の一因となっている。
文化庁は生成AIを機会に著作権法の啓蒙活動を行っているものの、おそらく一番届けたい対象と思われる反AI層に効果を発揮しているとはいまだ言い難いのが2024年5月現在の実情である。
令和5年度 著作権セミナー「A I と著作権」
AI技術に対する理解が進んでいない問題
反AI層には、画像生成AIを既存の膨大なイラストを切り貼りコラージュして作成していると主張している者が存在する。これはおおよそ特徴表現学習を用いたディープラーニング技術の知識を知るものからするとありえない主張であることが分かる。また、反AIの中にはデータセットの画像を学習済みモデルに圧縮して保存し合成しているとも主張している者もいるが、億単位の枚数の画像をたった数GB～数十GBのファイルに圧縮して保存するといった数字すら無視したトンデモ超技術はいまだ存在していない。
このことについて文化庁は資料で「生成 AI では、入力された指示を情報解析し得られた結果と、その生成 AI が学習したパターンやルール、傾向等に基づき、生成物を生成することとなる。」と記載して続けて「生成AIについて通常、学習データの切り貼りによって生成を行うものではないとされる。」とダメ出しをしている。(なおこの時例にあげたのは大規模言語モデルだが生成AI一般の技術である。)
[1]
反AI層は生成AIに否定的なネットニュースや反AI仲間との情報共有で偏った知識を身に付けており、いわゆる「エコーチェンバー」という状態に陥ってしまっていることが現状から推測される。
クリエイターなど個人への攻撃、魔女狩り。
反AI層はクリエイター保護やクリエイターの未来を大義名分に掲げてAI規制を訴えているが、AIを利用・肯定的な既存のクリエイターを対象に攻撃することがある。
特に、「絵がそれっぽい」だけでAI認定されてしまい批判されてしまう、通称「魔女狩り」と言われる問題がある。代表的なのは2023年夏コミでスレイヤーズのキャラクターデザインを担当したあらいずみるい氏がイラストを公表した際に、生成AIを使用したとして反AIが攻撃した事例がある。あらいずみ氏は炎上後すぐに制作過程を公表し、一般的には炎上は収束した。しかしながら、反AI層の一部はそれは捏造だと証拠も無く断定。現在でも生成AIを使用したとして疑っている。あらいずみるい氏は一時代を築いたといっても過言でないほどの大御所のクリエイターであり、クリエイター保護を掲げる反AIの活動と大きな矛盾が生じた。この事件をきっかけに反AI層は大義名分を失くし、クリエイターをリスペクトしているAI反対派からの求心力を失い、反AIの所業に対する非難が日に日に多くなった(ニコニコ大百科の一部記事のコメント欄では、当初画像生成AIに対して否定的な意見が多数だったがこの事件をきっかけに反AIに反発する人が多くなる。)。
これ以外でもジャケットにAIイラストを用いたゆず、SunoAIを用いて音楽を披露した尾田栄一郎氏、漫画「画家とAI」をSNS上に公開した樺ユキ氏、アルバムにAIイラストを使ったゴールデンボンバー、自分の絵を追加学習した宮島礼吏、画像生成AIで交流していたすがやみつる氏など著名なクリエイターが次々と反AI層の攻撃対象となっている。
さらに反AI層は日本漫画家協会とも対立し、理事や役員クラスの大御所漫画家達(里中満智子・森川ジョージ ・島本和彦・小沢高広)についても次々と中傷を行った事例も存在する。
また、画像生成AIに少しでも寛容な態度を取ったり、肯定しただけで中傷する事例が多々発生している。例えば漫画家出身の参議院議員である赤松健氏に対しては、氏が生成AIに対してクリエイターにインセンティブを与えるべきと提案を行ったところ、生成AIを全面規制する気がないクリエイターの裏切り者として攻撃した。同様に表現規制に反対し、クリエイターの味方として活動している山田太郎議員にも反AI層は同じような仕打ちを行った。サービス内での生成AI利用を禁止しているはずのskeb運営さえも、生成AIに関して強く反対しなければ非難の対象とした。
それ以外でも、多くの絵師、クリエイターがAI利用AI肯定AI疑惑等で反AIに一方的に絡まれリンチの対象にされる事態が度々起こっている。
なお、当のAI絵師は堂々とAIイラストと名乗り、AIイラストと明記して作品を発表している。AI製であることを理由に批判を受けることがあるものの、ほとんどの場合反AI層とは無縁の場で活動できている。反AIが主に攻撃対象にして満足するのは無名のAI絵師では無く、既存の手描き絵師や大御所のクリエイターたちである。
生成AI推進企業などに対するキャンセルカルチャー
反AIによるAI推進企業などに対するクレーム、キャンセルカルチャーも多発している。
[2]
反AI層は過去にmimic・クリスタ・アイビスペイントなどのツールやサービスについて、クレームや関係者への誹謗中傷の対象としている。その結果生成AIの導入を断念するなど、影響をもたらしたと推測できる事例がある。また同じく、集英社のグラビア雑誌「さつきあい」や武蔵野AI美術大学のAI絵画アワード、海上保安庁のポスターをクレームや脅迫、関係者への誹謗中傷によって撤回させている。極めつけは生成AIを使用した朗読劇「～AI朗読劇～AIラブコメ」に対し批判的なクレームを５００件送り中止に追い込むことで1000万円の損失額を出している。
[3]
このように反AIによる企業などに対するキャンセルカルチャーが続いており、企業の生成AI活用の大きなリスクになっている。
生成AI推進企業に対する不買運動とその態度への矛盾
上記のように反AIは生成AI全否定しており、スシローやコカ・コーラなどの企業が生成AIを活用したら不買運動を繰り広げている。しかし、なぜか肝心の生成AIそのものを開発する企業に対しては特に行動を起こさない。マイクロソフト、グーグル、アップル、アマゾン等の超巨大IT企業が生成ＡＩを開発し、自社の製品サービスに導入している事実があるが、それらの企業のツールは使わないと宣言する反ＡＩは確認されていない。
特に反AIの主な活動拠点であるエックス(旧Twitter)については生成AIの第一人者の１人でもあるイーロン・マスク氏が買収し、利用規約で投稿した物はエックス社のAI開発のための機会学習に使用されていると明記されている。それに同意してエックスを使用しているのにもかかわらず、生成AIに対して自身の作品が学習されることは絶対反対と主張し、矛盾した態度を取っている人が多く存在している。そして生成AIGrokが開発され、エックスで一部の人が使用できる形でSNSのシステムに組み込まれた。つまり、エックスを利用することは生成AIを利用していることとほぼ同義であるが、反AI層はエックスから離れようとしていない。
表現規制派との結託、呼び水
反AIはAIによる生成物の規制を訴え、AI生成による表現物を弾圧している様子から、ある意味での表現規制派と言える。
特定の表現に対してどのような物であれ規制する。という考えは創作界隈が長年戦ってきた表現規制派と相性がよく、彼らの尖兵になるのでは？と危惧されている。特に有名なのは生成ＡＩを規制を求める署名の中に「AI生成物のみ著作権侵害の非親告罪化」が存在する。AI生成物のみと主張しているが現在の技術で手描きとAI生成を完全に判別することはできず、事実上すべての創作物に関して著作権侵害の非親告罪化を招く恐れがある。これが実現されれば二次創作はもちろん、創作全体が死滅する恐れがあるとして批判された。[4]その他に批判を受けたのは上記の「クリエイターとＡＩの未来を考える会」の行動であり、炎上の後活動を休止していたように思われていたものの、水面下で政治家と対談していたことが発覚。対談相手の中には非実在の児童ポルノのアニメや漫画の単純所持の規制を目指す「矯風会」のメンバーや全国フェミニスト議員連盟の議員が含まれており、反ＡＩが表現規制の足掛かりになるのではと警戒されている。なお、当の反ＡＩは矯風会の存在を知らず、何が問題かは理解していなかったことが確認されている。
ツイートを読み込み中です
https://twitter.com/ymils_y/status/1779131490775019591
※余談ではあるが矯風会はどういった組織か。本部はアメリカにあるキリスト教系組織の日本支部であり、その歴史は古い。風紀を乱すと認定したものを法で規制させる事を目的とした政治団体であり、有名な成果（歴史上の汚点）は禁酒法である。
文化庁のパブコメに対する暴言
生成ＡＩについて何も全くの議論がなされていないわけではなく、文化庁が著作権とＡＩという分科会を度々開催して議論している。その中で一般からの意見を募集するパブリックコメント（以下パブコメ）が実施された。反ＡＩ層は自分達の意見を政府に届けるチャンスだと考え、コミュニティ内での呼びかけの結果25000通という大量のパブコメが送ることになった（ちなみにこの時点ですでに1回実施されているが、大きく話題になることはなかった。）。この数を根拠に、生成ＡＩは社会的に批判されていると反ＡＩ層は主張していたものの、文化庁がパブコメの内容を公開したところ、かなりの数の意見が募集要項に沿っていないものであることが発覚。そもそも議題の資料すら見ているかも分からない罵詈雑言、生成ＡＩに対する怨瑳の声すら含まれており、パブコメを成果と誇る声はトーンダウンしてしまった。なおこのパブコメに対する文化庁の所感の中に「知識基盤のレベル合わせができていない」 [5] というフレーズがあり、パブコメのまとめとして象徴的な言葉となっている。(この「知識基盤のレベル合わせができていない」は先行で文化審議会著作権分科会（第69回）を傍聴していた者の伝聞であり、後に掲載された議事内容でこの発言は厳密には「なかなか知識基盤というんですか、このレベル合わせができていないというところもございました。」という内容であることは補足しておく。) [6][7]
生成AI反対の主張のブレ
反AI層の大半は画像生成AIに反対しているが、例外が複数存在しStable diffusion1.5を内蔵した機械学習妨害用の画像生成AI(Glaze,Mist,Nightshade)は使用を推奨している。また反AＩ層の中でも「MYイマジナリメーカー」や「AIピカソ」などを使用し、マリオやピカチュウを始めとする既存のキャラクターの侵害物を自ら意図的に生成し、ネット上にアップロードして画像生成AIの権利侵害のネガティブキャンペーンをすることは否定されていない。
またイラスト以外の創作は軽視する傾向が見られる。特に有名なのは翻訳方面であり、機械翻訳によって英語等をPCですぐ翻訳できるのは生成AIのおかげだという指摘は「言語は著作物では無い」(実際は著作権法第十条の著作物の例示に「言語の著作物」というものがある。)「翻訳は著作権は存在しない」(実際は著作権法第２７条で著作権(支分権)の１つに翻訳権が存在する)だから自分が使用しても問題はないという主張が跋扈しており他の界隈から顰蹙を買っている。なお機械翻訳で高いシェアを誇るGoogle翻訳やDeepL翻訳は、両サービスともネット上のデータをクローリングして集め無断で機械学習に使っていることを明記している。一方で『魔法使いの嫁』の作者ヤマザキコレ氏が最新のAIマンガ翻訳技術「Mantra Engine」を自身のマンガに活用したところ、反AI層が攻撃の対象にしたことがある。[8]
反AI層の中には画像生成AIと違ってChatGPTなど大規模言語モデルを許容し文章生成で活用しているものも多いが、前述の通り朗読劇「～AI朗読劇～AIラブコメ」に関しては文章生成AIの利用を非難しており、芥川賞受賞者がChatGPTを駆使して作品を執筆したことを叩いた例もある。[9]
このように反AI層の生成AI利活用への反対の主張は一貫しておらず、その時々でブレて異なり、どの生成AIをどのように活用することに判定しているのか明確に定まっていないとされる。
その他の分野でのAIに対するネガティブな反応
動画、声関係
- 俳優の外見や演技、声優の声などを生成AIが写し取り模倣し、その声優や俳優があたかも話している、出演しているかのような動画や音声が作成できるようになってきていることに対する反感。ハリウッドでは動画配信や生成AIで見返りを求めるストライキが起こった。
- 声優の梶裕貴氏が無断で生成AIを作られたことに苦言を呈していた。その後、AIとの共存を目指して声優としてはいち早く自身の声で自由の喋れるAIソフトを発売した。[10]
- AIが作り出す精巧な偽の映像や音声が犯罪や社会的な混乱をもたらすことに悪用されるのではないかという懸念。２０２２年からのロシアによるウクライナ戦争において、降伏を呼びかけるゼレンスキー氏のフェイク動画が出回ったことや、２０２３年には日本で岸田文雄総理大臣が卑猥なことを話すフェイク動画が投稿されるという事態が起きた。後者は、ネットミームとして一部の界隈で出回っている卑猥な文章であったためにフェイクであると判断しやすい動画であったが、これがもし政治的な内容であったらより多くの混乱が起こっていた可能性がある。現在では、「訛りなどのその人物が備えているであろう特徴がない」「口だけが不自然に動く」など真偽の判別が比較的容易であると考えられるが、技術の進歩に伴い判別が困難になってゆく懸念がある。
- 実在しない人物の写真や動画、音声なども生成できるようになってきている。こういった技術が詐欺など犯罪に悪用されはしないか。（前項と合わせて所謂ディープフェイクの問題。）
AIの学習を阻害するツール及びAI画像と判定するツールについて
生成AIの登場で、自分が見ているイラストはAIイラストかどうか？または自分の絵を学習されたくないのというニーズが絵師達の間で広まった。そのニーズに応えたのか、イラストをAIイラストか判定するツール、またはAI学習を阻害するツール、サービスが開発された。前者は「HIVE」後者は「Glaze」「nightshade」が該当する。また、サービスでは「emamori」「アイビスペイントの学習阻害機能（有料）」が存在する。
HIVE
HIVEとはHIVE社が開発したクラウドベースAIのサービスの一つであり、画像をAIかどうかを判定する技術であり、手描きと偽るAIイラストを看破するために反AIが重宝していた・・・・が、すでに記述したようにそもそもこのサービス自体が生成AI技術を用いたものであり、生成AIとは違法なデータセットを利用ているので使うべきではないという主張をすればこのサービスを利用すると自分のその違法なデータセットを利用しているというダブスタが発生してしまう。そうでなくてもそもそもHIVEの精度がいい加減なものであり、手描きをAIイラストと誤認する。イラストを90度回転しただけでAIイラストを手描きと認識する。などいい加減なものであった。そもそも生成AIに反対しているのに生成AIが判断した結果を盲信するのはおかしいのではないか？という指摘もあり、さらにいうと他人のイラストを無断でHIVEにかけるのは規約違反となる。当初は歓迎されていたが、上記の問題が多々あり、現在では話題に上がることは少なくなった。
Glaze,nightshade
この二つのツールはイラストに効果をかけることによってＡＩ学習を阻害、誤認させる機能となっている。
Glazeは2023年3月頃に開発されたものであり、Glazeは学習された結果にノイズをかけることにより、学習結果を阻害するシステムである。nightshadeは2023年10月頃に登場しており、学習した結果そのものを誤認させて全く別の物に学習させて最終的にはモデルデータそのものを破壊する。「毒」と表現されるシステムとなっている。これらのツールを活用すれは絵師はAIからの学習の恐怖から解放され、それどころかnightshadeの毒を用いてAI毎破壊される事を期待されていた。
・・・しかしながら発表当初から検証では効果があるとされるが実際は学習阻害結果に効果がないと度々報告され、現実としてこれらのツールを使ってAI学習の阻害に完全に成功した絵師というのは確認されておらず、nightshadeの毒によって破壊された生成AIも確認されていない。そして、これらのツールが登場してAIイラスト作成者側に環境の変化があったという事例も同じく確認されていない。
そしてこれらのツールの欠点として、利用するにはそれなりのスペックを持つPCが必要であり、効果を付与するのにも時間を要する。そして、何より効果がかかったイラストにはうっすらとノイズがかかったようなエフェクトが発生してしまい、自身のイラストの価値を毀損してしまうデメリットが存在する。emamoriやアイビスペイントの有料機能を利用すればスペックが必要なPCはいらないものの、それでもノイズがイラストに発生する問題は避けられない。
学習阻害ツール使用における注意事項
文化庁が公表した資料「AI 時代の知的財産権検討会 中間とりまとめ （案）」の41pに「AI関連事業者の業務を妨害することを目的とした悪質な行為については、電子計算機損壊等業務妨害罪（刑法234条の２）等の刑事罰の対象となる可能性もあり得ることには留意する必要がある。」とある。どのような行為が悪質と判断されるかは個別に裁判で判断する案件である以上、ここでは断定はしない。
Glaze及びNightshadeの合法性については、「複数の弁護士に確認した」と公式より発言がある。但し（恐らく）アメリカの弁護士のみであり、日本国内での合法性は確認されていない。また、上記資料や素案の見解は国内法の専門家や弁護士が複数名確認したうえで発表されている事には留意したい。
関連項目
脚注
- *令和６年３月 15 日文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」
- *「この絵、生成AI使ってますよね？」──“生成AIキャンセルカルチャー”は現代の魔女狩りなのか 企業が採るべき対策を考える
- *「ＡＩ脚本」を人気声優が朗読…銘打ったイベントは中止、「盗作」と批判相次ぎ
- *署名「画像生成AIからクリエイターを守ろう」が賛同1万件間近に 「AI生成物のみ非親告罪に」などを主張
- *政府、生成AI推進に向けて議論を加速
- *文化審議会著作権分科会（第69回）（第23期第2回）
- *文化審議会著作権分科会法制度小委員会（第7回）
- *マンガ『魔法使いの嫁』新章、AIマンガ翻訳クラウド『Mantra Engine』により日英2言語で同時連載スタート
- *芥川賞作「ChatGPTなど駆使」「5％は生成AIの文章そのまま」 九段理江さん「東京都同情塔」
- *「AIと共存すべき」人気声優・梶裕貴 自身の声で自由にしゃべれるAIソフト発売へ 「たくさん悩んで」決断
- 46
- 0pt
