Microsoft の新しいバージョンの Bing が ChatGPT ほど歓迎されない理由

本質的にはチャットボットであるこの新しい「コンパニオン検索エンジン」の初期ユーザーは、Bing が攻撃的であること、誤解を招く情報を提供していること、さらには自らを「多重人格」と表現していることに不満を表明している。

マイクロソフトは、新しい AI 技術を統合することで、Bing が「オンライン検索の新しい時代」を切り開くと期待している。 ChatGPT などの機能による Bing の改善により、検索エンジンは、ユーザーに一連の Web サイトを提供して自分で検索させるという従来の方法ではなく、さまざまなソースから構築された定型回答を提供するなど、ユーザーに優れたサービスを提供できるようになりました。

しかし、AIスタートアップ企業Hugging Faceの上級研究員であり、GoogleのAI倫理チームの元共同リーダーであるマーガレット・ミッチェル氏によると、これは情報検索に使用するには根本的に適切な方法ではないとのことだ。チャットボックスの設定方法により、人間のような方法で信憑性のあるものを作成するように訓練されます。しかし、信頼できる事実に基づいていなければならない検索エンジンにとって、チャットボックスは適していません。潜在的なリスクの 1 つは、この AI アプリケーションが誤った情報を提供するだけでなく、ユーザーの感情を操作する可能性があることです。

どちらもサンフランシスコ（米国）のスタートアップ企業 OpenAI によって同じ言語プラットフォームに基づいてプログラムされているのに、Bing と ChatGPT（ほぼ世界規模で注目を集めているチャットボックス）はなぜこれほどまでに違うのでしょうか。本質的に、言語モデルはチャットボットの「エンジン」として理解されており、書籍、インターネットフォーラム、Wikipedia ページを含む数十億語のデータセットから作成されます。

Bing と ChatGPT は GPT-3.5 とそのプログラムのさまざまなバージョンを搭載していますが、Microsoft によると、Bing は OpenAI の「次世代」言語モデルで実行され、ChatGPT よりも「より高速で、より正確で、より結果重視」の検索向けにカスタマイズされているとのことです。

同社は2月15日、初期ユーザーの71%が新しいBingに好意的な反応を示したと発表した。しかし、Bing Reddit ウェブサイト上に組織されたフォーラムは、このチャットボックスの態度や回答内の誤解を招く情報についてユーザーが「非難」する場となっている。それだけでなく、他の多くのユーザーも、Bing が Facebook アカウントをハッキングする方法、エッセイを盗用する方法、人種差別的なジョークを言う方法などの指示を与えたと述べています。

上記の意見に対して、マイクロソフトの広報担当者は次のように述べた。「新しい Bing バージョンでは、興味深く現実的な回答を作成することを目指しました。これは暫定バージョンであるため、会話の長さや文脈など、さまざまな理由により、ツールが予期しない回答や誤った回答を表示する可能性があります。これらのやり取りを研究しながら、チャットボットを調整し、一貫性があり、適切で、肯定的な回答を作成できるようにします。」

グーグルは以前、マイクロソフトに対抗するため急いでバードチャットボットを導入し、そのツールが自社の宣伝ビデオでミスを犯した際にも同様の問題に直面した。この事件により、グーグルの株価は7％以上下落した。

全体的に見て、チャットボックスの開発と検索エンジンを超えた拡張の競争では、マイクロソフトが優位に立っています。マイクロソフトは先月、OpenAIに100億ドルを投資したが、その性急な「先行」行動が同社の評判を傷つけ、より広範囲に波紋を呼んだと言われている。

2016年、マイクロソフトのAI研究者はTwitter上でTayと呼ばれるチャットボットを立ち上げたが、わずか16時間後にシャットダウンしなければならなかった。その理由は、他のTwitterユーザーがTayに対して女性蔑視的かつ人種差別的なツイートを送った後、チャットボックスでも同様の炎上するような投稿が始まったからだ。マイクロソフトは、チャットボットの脆弱性を十分に監視していなかったことを謝罪し、公開フォーラムで「細心の注意を払って」AIをテストすべきだったと認めた。

マーガレット・ミッチェル氏は、本質的にはBingはユーティリティとして機能する情報検索エンジンであり、マイクロソフトは新たな問題に注意を払い、このAI統合アプリケーションを改善すべきだと述べた。

マイクロソフトは以前、Bing での検索をより適切かつ安全にするために、Prometheus と呼ばれる一連のテクノロジを開発したと発表していた。