KpopSnap
テクノロジーが進歩し続けるにつれ、特にAIの活用という文脈においては、ポジティブな影響とネガティブな影響の両方がある。AIは何年も前から様々な形で活用されてきたが、最近では芸術や人間さえも含む対象のリアルなシミュレーションを可能にした。
AIの悪用で最も抗議され、危険な形態のひとつは、ディープフェイクの作成である。ディープフェイクとは、他人（通常は有名人）の顔を他人の顔に重ねたり、他の編集を加えたりして作成された偽の画像のことである。過去には、アイドルのポルノ的なディープフェイクが作成され、多くの事務所やアイドルが法的措置を取る結果となった。
200人以上の女性アイドルのディープフェイクが発見され、ネット民が呆れる】(www.koreaboo.com/news/f...p-idols-deep-fake-porn/)
しかし、アイドルやタレントだけでなく、一般人も被害に遭うという新たな流れが生まれたようだ。
2023年、現在のXであるイーロン・マスクがツイッターを買収した後、同プラットフォームにGrokという生成AIチャットボットを導入し、統合した。このボットは、誰かがそのアカウントにメッセージを送り、質問をすると作動する。
twitter.com/grok/status...925?ref_src=twsrc%5Etfw
Grokは、ユーザーが既存の画像を、質問されたとおりに変更することを可能にする。これは当初、サンタが画像に追加されるクリップで実演されたが、一見無害な変更である（一般的なAI利用の影響以外では）。
twitter.com/grok/status...721?ref_src=twsrc%5Etfw
しかし、これはすぐに変わった。ユーザーはGrokに、他のユーザー（主に女性）が投稿した写真に何らかの性的な変更を加えるよう要求し始めたのだ。下の画像は、アダルト・コンテンツ制作者から依頼されたものだが、許可なく依頼されるタイプのものであることを示している。
スクリーンショット 2026-01-07 at 1.29.20 PM](image.koreaboo.com/2026...01-07-at-1.29.20-PM.jpg)
すでに多くのユーザーが、自分の画像がこのように操作されることに不満を表明しており、すでに数千人が被害に遭っていると推定されている。この被害には残念ながら子供も含まれており、アイドルを含む有名人にも及んでいる。
aespa**‘のKarinaやIVE‘のJang Wonyoungのような女性アイドルはすでに標的にされており、Grokはマイナーなアイドルも巻き込んだリクエストに無差別に応えている。
G9jbk1QXAAEoCIz](image.koreaboo.com/2026...1QXAAEoCIz-530x640.jpeg)
10～16歳のメンバーを募集したガールズグループ「さくら学院」のメンバー。
その結果、このアプリは、アイドルを含むすべての人が非合理的な画像加工に対処しないよう、ファンが防止策を共有し、国際的な激しい反発に直面している。
twitter.com/WONHO_GLOBA...550?ref_src=twsrc%5Etfw
