ChatGPTに関連する詐欺リスクの警告

ダークトレースは、米企業オープンAIが開発し、2022年11月にリリースされたChatGPTツールによって、電子メール詐欺の巧妙さが増し、ハッカーがより高い確率で標的型攻撃を実行できるようになった可能性があると指摘した。

Darktrace によれば、ChatGPT の導入後、顧客に対する電子メールベースのサイバー攻撃は大幅に増加せず、悪意のあるリンクを含む電子メールの数も減少したとのことです。しかし、ダークトレースは、句読点、文の長さ、テキスト量など、これらの電子メールの「言語的複雑さ」が増していると述べた。これは、サイバー犯罪者がユーザーの信頼を悪用することを目的とした、より高度で複雑な詐欺を作成することに重点を移している可能性があることを示唆しています。

ChatGPT は昨年 11 月のリリース以来、わずか数秒でエッセイ、詩、コードをオンデマンドで作成できる機能で世界中の注目を集めています。リリースから1か月で5,700万人のユーザーを獲得し、1月31日時点で1億人を突破するなど、ユーザー獲得率が最も高いソフトウェアです。しかし、このツールは、誤報や学術上の不正行為のリスクに関する多くの問題も引き起こします。

今月初め、欧州連合（EU）の産業委員ティエリー・ブルトン氏は、EUはChatGPTのリスクに関する懸念に対処し、欧州のユーザーがAI技術を信頼できるようにするために、新たなAI関連の規制を課すと述べた。一方、中国メディアによると、中国の規制当局は国内の大手テクノロジー企業に対し、ChatGPTサービスを一般に提供しないよう要請したという。