ChatGPTに騙された米国人弁護士　架空の訴訟例を引用で責任追及

米国人弁護士が裁判で OpenAI社の生成的人工知能ChatGPTが考え出した架空の訴訟例を引いたことが明るみになった。ChatGPTは弁護士の質問に対し、実際存在していない訴訟例を引用して回答していた。ニューヨークタイムズ紙が報じた。

原告側を弁護したスティーヴン・A・シュヴァルツ氏はコロンビアのアビアンカ航空を相手取った訴訟で、同様の訴訟例の概要として、ChatGPTが生成した答えを提示した。

これに対して被告側は裁判でそうした訴訟例はないことを証明。この後、訴訟の行われている地区裁判所のケヴィン・カステル裁判官は、「提示された訴訟例のうち6例は偽の判決例で、偽の引用、偽の内部リンクが表示されたもの」と断言した。裁判官はさらに、原告の裁判官シュヴァルツ氏に対する制裁を検討する聴聞を実施した。

シュヴァルツ弁護士は宣誓で弁護においてChatGPTを使用したことを認めた。シュヴァルツ氏はボットの出した弁護の回答が正しいことを調べるためにChatGPTに対し、嘘をついていないか尋ねたところ、ボットは引用した弁護は全て実際に使われたものだと断言した。

ボットは、実際には行われていないにもかかわらず「（架空の）ヴェルギーズ航空会社が中華航空に対して起こした訴訟」と題し、実際に行われた「ジッカーマンが大韓航空に対して起こした訴訟」を引用し、日時を変更し、訴訟の詳細を変えていた。

シュヴァルツ氏はチャットボットが虚言をはくとは知らなかったと打ち明け、「生成的人工知能を追加的な法律調査のために用いたことを非常に後悔している」と語った。

関連ニュース