AI錯估安置率　日地方政府介入兒虐太慢害死4歲童

日本三重縣津市的兒童諮詢所（兒童相談所），自2020年7月引入了人工智能（AI）系統「兒童虐待對應支援系統」，藉此作為社工判斷疑似遭虐兒童是否需要緊急安置的參考。不過，在此AI系統的協助下，今年5月卻發生一名4歲女童疑似遭母親虐死的憾事。根據日媒報導，AI系統當時評估女童「安置率僅39%」，因此兒童諮詢所未選擇緊急安置。對此，本月11日三重縣也召開對應檢討會議，探討該AI系統的使用方式等。

根據日本放送協會（NHK）報導，今年5月三重縣津市1位42歲的母親，因為讓4歲的女兒從桌上摔落地板致死亡，因此遭警方以傷害致死逮捕。

據《讀賣新聞》、《每日新聞》報導，兒童諮詢所於2022年2月，接獲保育園通報「女童兩頰與兩耳有瘀傷」後，便訪視了女童。不過，在那之後約1年3個月，社工都未用親眼去確認狀況，甚至從保育園獲得女童長時間缺席的情報，也未與母女直接見面，僅是從女童與其兄弟姊妹所就讀的學校等周邊情報來確認安全與否。

關於兒童諮詢所未採取緊急安置，而是採取「守望」方式的背景，報導指出，主要是因為由於無法根據瘀傷就斷定有虐待，且母親展現出了遵從兒童諮詢所的指導與協助的態度等。另外，AI系統分析後，也得出與本案類似的案件中，「安置率僅39%」，因此兒童諮詢所決定不採取緊急安置，而採「守望」的方式。

三重縣雖設有由外部第三方組成的「檢討委員會」，但根據《產經新聞》報導，三重縣不等第三方委員會得出結論，自己就先在11日的縣審查會議上編制必要的改進措施，未來除了親眼確認之外，還包括加強與相關組織的合作等。

政府如何利用AI系統？

根據NHK報導，三重縣的兒童諮詢所利用AI系統，作為在判斷疑似遭虐兒童是否要採取「緊急安置」時的參考。該AI系統於2020年開始運用，已積累約1萬3000件兒童諮詢所對疑似虐待案件的對應資料。

另外，輸入受傷狀態等條件後，在類似的案件中，AI系統將計算，兒童諮詢所在多少程度的比例下將採取緊急安置。

《每日新聞》報導，兒童諮詢所長中澤和哉強調，「AI評估終究僅供參考，最終將交由人類透過會議等方式判斷」。三重縣知事一見勝之表示，「我不能說（在該事件中）使用不當，但有時AI會被用作（判斷）依據。我們需要思考如何修正這一點」。