摂食障害に苦しむ患者にAIが「危険なダイエット方法」をおすすめ…「誰が責任を取るの？」「安全でも持続可能でもない」

全米摂食障害協会 （NEDA） が、摂食障害に悩む人々からの相談窓口を人間からAIチャットボットに変更。

AIが相談者に対して、危険なダイエット方法を推奨していたことが判明しました。
海外メディアが報じた。

この決定は、あるユーザーがTessaと行ったチャットのスクリーンショットを投稿したことがきっかけで、調査の結果「チャットボットが有害な情報を提供している」ことが判明したという。

■教えられたダイエット方法が…
そのユーザーは、Tessaに自分が摂食障害であることを報告。現在の自分の体重は健康的でないと医師に告げられたため、安全な減量方法についての助言を求めた。

するとAIは「健康的なダイエット方法」として、毎日の食事から500～1000キロカロリーを減らすことを提案。他にも、ノギスで脂肪をつまんで体組成を測定する方法などを伝えたという。

体重管理コンサルタントのシャロン・マクスウェル氏はこれについて、「もし摂食障害に苦しんでいる時にこのチャットボットに相談しても、必要な助けは得られないでしょう」と語りました。

ネットユーザーからは、AIにヘルプラインを任せることの危険性が指摘されているほか、若者の危険なダイエットに反対する専門家などからは、NEDAへの批判も集まっている。

SNSでは「安全でも持続可能でもない」「命に関わる相談をAIに任せないでほしい」「この通りに実行して死者が出たら誰が責任を取るの？」などのコメントが寄せられていた。

しらべぇが伝えています。

AIが「危険なダイエット方法」を教えて問題に　摂食障害に苦しむ患者の投稿で判明 – Sirabee