画像生成AIの出始めはみんな面白がっていろんなイラストを作ってTwitterに投稿されたりしていたのですけど、これがNovelAI Diffusionのようにネット上の(SNSなどにある)画像を無断転載されてるサイトから画像を学習して利用している場合、元絵の書き手の承諾なしで似たように絵柄でイラストが生成されてこれが問題になっているわけですね。

これは著作権のような法律上での対応であったり、様々なサービスでの対応であったりイラストを描く人の仕事を奪ったり権利を侵害する問題についてどうするのかまだ人間社会での対応が追いついていないのですね。

これは日本だけではなく海外も含めた大きな枠組みでの取り決めが必要で、なかなかすぐには対応が難しいようにも思えます。

もちろん画像生成AIは様々な表現を素早く手に入れることができるので、正しく使いこなせば有益なものになるはずです。
問題はそれが使う人の良心によって社会的モラルが保たれる前提になっているのが問題で、これを悪用して絵柄だけ盗んで大量のイラストを販売する人物が出てしまった事により、さらに画像生成AIの悪い部分が取り沙汰されて規制が広まることになると、海外の開発にあらゆる分野で負けるという技術的な面で残念なことになりそうです。

すでにイラスト投稿サイトの一部でAIによって画像のスクレイピング・bot対策がされるとのことですが、誤判定のようなことや思い込みだけで転載したというレッテル叩きが出たりしないかも心配するところです。

イラストを描く人の側もAIとニンゲンの描くイラストの違いを何によって見出していくかという問題が出てくるため非常に苦しい状況です。
画像生成AIという便利なようで人間社会にはまだ早すぎたツールの登場によってトラブルや議論はまだまだ続くでしょうが、全てにおいて良い結果に落ち着いてほしいものです。