ファーストイノベーション、「福岡つながり応援」メディアで生成AIによる誤情報掲載

概要

2024年11月、ファーストイノベーションが運営する地方の魅力を発信する「福岡つながり応援」公式Webメディアにおいて、記事コンテンツに誤った情報が掲載されていると指摘が相次いだ。

問題の記事は、生成AIを活用して作成されており、福岡県に存在しない施設など誤情報が掲載されていた。

2024年11月7日に運営会社が謝罪し、該当記事を全て削除した。また、「福岡つながり応援」キャンペーンサイトは11月30日に閉鎖された。

原因仮説

生成AIのハルシネーションリスクの認識不足

運営会社は、生成AIが「存在しない施設」など虚偽の情報をあたかも事実のように生成するハルシネーション（嘘をつく）という技術的な限界とリスクを、十分に認識していなかった可能性がある。

記事公開前の「ファクトチェック」の欠如

「福岡県に存在しない施設」などという極めて基本的な事実誤認が多数掲載されていた。AIが生成したテキストを人間の編集者やライターがチェックするというプロセスが十分に機能していなかったと考えられる。

影響

短期間でサイトが閉鎖されたため、顧客等への影響はないものと考えられる。

対応

問題となった記事を削除し、キャンペーンサイトを閉鎖した。