AIによる虐待判定導入見送り「ミス62％」こども家庭庁

虐待から子どもを守るため、虐待が疑われる子どもの一時保護を巡り、国が2021年度から約10億円をかけて開発を進めてきた人工知能（AI）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことが分かった。最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上り、実用化は困難と結論付けた。
同システムは人手不足に悩む全国の児相の利用を想定し、搭載したAIに約5,000件の虐待記録を学習させた。試作モデルが完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。AIの判定精度を各児相にの幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。このため、今の段階で「児相に提供するのは時期尚早」として、開発を保留して見送りを決定した。