TikTokでは有害なAI生成コンテンツが蔓延している

非営利団体メディア・マターズの報告によると、TikTokユーザーの間では、世界の終わりに関する根拠のない「陰謀論」を宣伝する動画で収益を得るケースが増えている。

これは、フェイスブック上でいかにして偽情報が猛スピードで広がっているかを示す最新の事例だ。これは、特に米国の議員らが国家安全保障上の理由でフェイスブックの禁止を検討している中、最近の政策論争で繰り返し取り上げられている難しい問題だ。

人工知能（AI）によって作成された、不気味なBGMと画像を添え、有名人の声まで使用した悪質な動画は、TikTokで何百万回もの視聴回数を集めることが多い。特に陰謀論系の動画は匿名アカウントによって投稿されることが多いです。

TikTokの研究者アビー・リチャーズ氏は、こうした動画はプラットフォーム上のクリエイタープログラムを通じてTikTokクリエイターに経済的利益をもたらす可能性があると述べた。この「家内工業」は、広く入手可能で無料の AI ツールによって支えられています。

一方、TikTokの広報担当者は、ユーザーのフィードにおいて「陰謀論は収益化や推奨の対象にはならない」と強調した。この人物は、悪質な誤情報は禁止され、安全チームがユーザーからの報告を受ける前に95％の誤情報を積極的に削除すると主張した。

今年は世界中で大きな選挙が行われると予想されており、AIが生成した誤情報に対する懸念が特に高まっている。先週、欧州連合（EU）はデジタルサービス法（DSA）を用いて、TikTokを含む複数のプラットフォームに対し、27カ国からなるEU圏内の今後の選挙に悪影響を及ぼす可能性のあるAIのリスクに対処するよう圧力をかけた。

約1億7000万人のTikTokユーザーがいる米国でも、先週、議員らがTikTokを禁止する法案を圧倒的多数で支持した。 3月13日に下院で可決されたこの法案は、親会社であるバイトダンスに対し、180日以内にTikTokアプリの管理権を放棄する措置を取ることを義務付けており、さもなければ同アプリは米国のアップルとグーグルのアプリストアから禁止されることになる。

これは、著作権侵害やユーザーデータの不正使用の疑いにより、世界中で広く人気を博している動画共有アプリ「TikTok」にとってこれまでで最大の脅威とみられている。 TikTokは繰り返しこの疑惑を否定している。