イタリア、レプリカチャットボットによるユーザーデータの使用を禁止

Replika は Luka Inc. によるものです。 2017年に設立されました。Replikaはコンパニオンチャットボットであり、ユーザーの話を聞いたりチャットをしたりするために人工知能（AI）上に構築された「仮想」友人です。

Replika は、英語を話す「仮想」友達の世界で最も人気のあるチャットボットです。 Replika は無料であるにもかかわらず、音声チャットなどのアドオン機能の販売から毎月約 200 万ドルの収益を上げています。

イタリアのデータ保護局によると、レプリカはユーザーの気分を改善するのに役立つかもしれないが、ユーザーの生活に介入することで、チャットボットは「発達段階にある、または感情的に脆弱な状態にある個人に対するリスクを高める可能性がある」という。

同庁はまた、レプリカは未成年者用のフィルターを作成したり、ユーザーが年齢を明記しない場合はアクセスをブロックするなど、ユーザーの年齢を確認するための仕組みを確立する必要があると述べた。 Replikaは、未成年者が署名できない契約に基づいて運営することができなかったため、欧州のプライバシー規制に違反し、ユーザーの個人データを違法に処理した。

イタリアのデータ保護当局は、Luka Inc. 社が、同社は20日以内にレプリカ社に対する「是正」措置を同国当局に通知し、ルカ社に警告しなければならない。上記の問題により、同社は最大2000万ユーロ（約2180万ドル）、または世界年間売上高の最大4％の罰金を科される可能性がある。

さて、ルカ株式会社。イタリアのデータ保護当局の発表についてはコメントしていない。

<<: GPTチャットはデートのメッセージングに使用した場合のデメリットを明らかにする

>>: EU当局はChatGPTのリスクを警告