Grokの画像生成・編集がXで有料化へ—国際批判と規制圧力が招いた制限の理由と影響

Generated by DALL·E

Xは、Grokで最も注目を集めてきた機能のひとつ——画像の生成と編集を行う内蔵ツール——へのアクセス方法を見直した。今後は、チャットボットを通じて画像を作成・加工できるのは有料のX加入者に限られる。

具体的に何が変わったのか

ユーザー向けの案内で、Grokは、X上での画像生成と編集は有料購読者のみが利用できると伝えた。

この制限はXに限られる。掲載時点では、Grokアプリでは引き続き、サブスクリプションなしで画像を作成できていた。

Xがこの措置に踏み切った理由

当初、この機能は日次の上限こそあったものの、誰でも使える設定だった。ユーザーは他人の写真をアップロードし、Grokに編集を依頼できた。性的に強調したり、裸に見せる加工も含まれていた。その結果、同意のない画像が大量に拡散し、子どもの性的表現や、俳優・モデル・公人を素材にしたものまで現れた。

こうしたコンテンツは国際的な反発を招き、複数の国が、適切な安全策が欠けているとしてXとGrokを公然と批判した。

マスクの対応とXの立場

Xとイーロン・マスクは、こうした画像の生成にツールを用いる行為を公に非難し、違法コンテンツを禁じる規則に沿って運用すると表明した。マスクはまた、Grokを使って違法な素材を作れば、プラットフォームに違法コンテンツを投稿した場合と同じ扱いになると示唆した。

規制当局からの圧力

問題が拡大するなか、各国の規制当局も動いた。

• 英国、欧州連合（EU）、インドが、こうした使い方を可能にしたとしてXとGrokを公然と批判。
• 1月8日、EUはxAIに対し、チャットボットに関するすべての文書の保存を要請。
• 先週、インドの通信省は、画像生成機能の乱用を止めるための早急な是正をXに要求し、同国でセーフハーバーの保護を失う可能性があると警告。
• 英国の通信規制当局も、この問題でxAIと連絡を取っていると明らかにした。

画像の生成と編集を有料加入者に限る措置は、評判面と規制面の打撃に対する緊急対応の色合いが濃い。製品を磨くというより、悪用を素早く絞り込み、Xが事態を掌握していると示す狙いが見える。ペイウォールの背後に移すことで参入障壁は上がり、問題あるコンテンツの広がりにはブレーキがかかるだろう。ただ、根本的な課題は残る。ツールが違法行為に流用できてしまうことは、すでに露呈しているからだ。