AIチップは低消費電力で大規模な言語モデルを処理する

聯合ニュースによると、韓国科学技術情報通信部は3月6日、KAIST PIM半導体研究センターのユ・フェジュン教授率いる研究チームが、わずか400ミリワットという極めて低い消費電力と0.4秒という高速処理で、米国企業OpenAIのGPT-2言語モデルを処理できるAIチップを開発したと発表した。

サムスン電子の28ナノメートルプロセスを使用して開発された4.5mm角のチップは、LLMの処理に250ワットの電力を必要とする世界的なAIチップ大手NvidiaのA-100 GPUよりも625倍少ない電力を消費します。 KAISTが開発したチップは面積がNvidiaの製品より41倍小さいため、携帯電話などのデバイスにも使用できる。

科学技術情報通信省は、この偉業を達成するには、脳をシミュレーションするコンピューティング技術、特にスパイキングニューラルネットワーク（SNN）の使用が不可欠だと述べた。

これまで、この技術はディープニューラルネットワーク (DNN) ほど精度が高くなく、主に単純な画像分類が可能でした。しかし、チームはDNNやLLMのアプリケーションに適合するように技術の精度を向上させることに成功しました。

研究チームによると、新しい AI チップは、DNN と SNN を組み合わせて使用​​し、LLM の大規模なパラメータを効率的に微調整することで、精度を維持しながら計算電力消費を最適化できるという。