医療ニュース 2024.03.06

中学1年生250人の半数超、理科の課題で同じ間違い…教諭の違和感の正体は生成AIの「誤答」

 東京都内の私立中で2月、1年生の半数超が理科の課題に対する解答を間違う事態が起きた。原因となったのは、生成AI(人工知能)が表示した“誤答”。食品大手「キユーピー」がホームページ(HP)に載せていた記述を基に生成し、生徒たちが書き写していた。男性教諭に記述の誤りを指摘された同社は、誤解を招きかねない表現があったとして修正した。

同じ誤り

 <唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする>

 2月上旬。都内の私立中で1年生に理科を教える男性教諭(34)は、授業で出した課題の解答をチェックしていて違和感を抱いた。

 出した課題は「唾液アミラーゼの働き」を調べること。「でんぷんは胃では消化されない。なぜこんな解答になったのだろう」と疑問に思った。

 最初にチェックしたクラスで、多くの生徒がほぼ同じ文言で解答。気になって調べたところ、6クラスで計約250人いる1年生のうち、半数超が同じように間違っていたことが分かった。

生成AI

 男性教諭が試しに、インターネットで「唾液アミラーゼの働き」と検索すると、原因はすぐに判明した。検索サイトに搭載された生成AIが生徒の解答と同じ文言を生成し、表示していたからだ。

 生徒たちに検索サイトの生成AIを使って書いたか尋ねたところ、各クラスで6~7割の生徒が手を挙げた。ネットの利用は許可していたが、多くの生徒が、生成AIの回答について正確性を確かめずにそのまま書き写し、提出していた。

 男性教諭は、教科書や参考書を確認しながら、でんぷんは口と十二指腸で分解されることを説明すると、生徒たちは「胃では消化されないんだ」と納得した様子だったという。

誤解招く

 男性教諭は、生成AIがどの情報に基づいて回答を生成したのかも調べた。

 出典として挙げられていたのは「キユーピー」のHPだった。「一人何役?唾液の働き」と題した特集ページに、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にします」との記載があった。

 男性教諭は2月18日、自身のX(旧ツイッター)で、キユーピーに宛てて投稿し、「もし修正できるならお願いしたく思います」と記した。

 キユーピーは翌19日に事態を把握。同社の研究所も含めて担当部署で検討した結果、でんぷんの消化について誤解を招きかねない表現だったと判断した。

 同28日、HPの記載から「胃で」を削除し、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、消化されやすい状態にします」と修正した。また、胃で吸収されることを表現したイラストにも変更を加えた。

 同社によると、HPの当初の記述は2018年9月からあったといい、同社は「外部に発信している以上、誤解のないように注意していきたい」としている。

妄信は危険

 <ちゃんと生成された内容の正誤チェックや文章校正が出来ない限り使うべきではない><AIにまず回答作らせて教科書で調べて修正すると定着率の高い勉強法になると思う>

 男性教諭の投稿は、360万回以上閲覧され、中には、そんなコメントも書き込まれた。

 男性教諭は「結果的に唾液アミラーゼの働きについて学習の理解が深まった。生成AIは間違った回答を示すこともあり、生徒たちにとっては自分で調べることの大切さを知る良い機会になった」と話す。

 医学博士で江田クリニック院長の江田 あかし 氏(消化器内科)は「でんぷんは胃では消化されず、キユーピーHPの記載は医学的に言えば誤りで、誤解を生じさせる。同社が迅速に修正したのは評価できる」と指摘。「生命や健康に関わる医学的な情報についてAIを妄信することは、現時点では非常に危険。情報の正確性について、ほかの文献に当たるなどの『裏取り』が必要だ」としている。

上矢印 TOP