規制当局は、特にGrokや類似の生成ツールに関して、主要なソーシャルプラットフォーム上でのAI生成のディープフェイクに対して深刻な懸念を示しています。焦点は、プラットフォームが合成メディアの作成と拡散をどのように取り扱うかにあり、これはコンテンツモデレーションにとってますます大きな課題となっています。業界の専門家は、より厳格な安全策がなければ、ディープフェイク技術がフィンテックやWeb3エコシステム全体のデジタル空間に対する信頼を損なう可能性があると警告しています。これは、分散型プラットフォームにおけるAI統合に対するより厳しい監視の兆しです。