児童相談所をはじめとする児童福祉現場へ伴走型業務支援サービスを提供する株式会社AiCAN（本社：神奈川県川崎市、代表取締役：髙岡昂太）は、東京大学未来ビジョン研究センター・江間有沙准教授と、児童虐待対応における意思決定に関わるAIの倫理基準の検討に向けて、共同研究契約を締結したことをお知らせいたします。今後、自社での検討に加え、第三者的視点や最新の国際動向も踏まえて、「責任あるAI」の開発のための基盤整備を進めてまいります。

共同研究の背景と概要

当社は国立研究開発法人産業技術総合研究所にて開発された、児童虐待対応における意思決定支援にAIを活用するシステムの技術移転を受け、「産総研発ベンチャー」として2020年より同システムを社会実装し事業化してまいりました。

近年、AI技術は特に目覚ましい発展を遂げています。技術の発展に伴って、AI技術の品質や安全性を適正に管理するため、OECDや欧州連合(EU)などを始めとするさまざまな国際的組織が、AIに関する原則や規制法案等を発表するに至っています。

当社は、このような国際的な動向に照らして、2022年より、児童福祉分野での意思決定に関するAIの品質と安全性を管理するための体制整備に努め、新たなAI機能の開発計画を進めてまいりました。

今年度は、東京大学と7月1日に共同研究契約を締結し、国内外の多様なAIのリスク影響評価の枠組み（欧州評議会AIに関する委員会の方法論である人権、民主主義、法の支配影響評価（HUDERIA）など）を参照しながら、児童虐待対応分野のAI開発に関するさらなる検討を開始しました。

東京大学未来ビジョン研究センター・江間有沙准教授について

江間　有沙 / EMA Arisa
東京大学 未来ビジョン研究センター 准教授

2017年1月より国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。2021年4月より現職。専門は科学技術社会論(STS)。人工知能やロボットを含む情報技術と社会の関係について研究。主著は『AI社会の歩き方－人工知能とどう付き合うか』(化学同人 2019年)、『絵と図で分かるAIと社会』(技術評論社、2021年)。[東京大学未来ビジョン研究センター HPより]

東京大学未来ビジョン研究センター
URL: https://ifi.u-tokyo.ac.jp/people/ema-arisa/ 

今後について

　子ども虐待対応は、様々な関係者の権利に触れる繊細さを有しています。当社は、本共同研究を通じて、当該分野でのAIシステムに求められる在り方について検討を深め、得られた成果を広く社会に共有してゆくことを目指します。

当社からのコメント

株式会社AiCAN　代表取締役　髙岡昂太

弊社では子どもの安全を守るため、現場の経験や感覚に加えて、科学的な根拠となるデータを参照した業務の推進を目指しています。信頼あるデータ参照型業務であるためには、データが信頼されるものでなければならず、そのための現場の伴走支援を行いながら、データ利活用の1つであるAIについても「責任あるAI」を目指していきます。

通常の自治体DX領域では、申請書などに正確な情報を書いてもらうことができますが、児童虐待対応の領域では、保護者が必ずしも協力的でない、子どもも真実を恐怖で語ることができないなどの難しさがあります。そのような状況で、信頼に足るデータ、そこから導き出される分析結果のあり方などについて倫理的かつ科学的に検討を進めるため、東京大学の江間先生と共同研究をさせていただき議論を深めたいと思います。

世界に先駆けて児童虐待という社会課題の解決を目指すインパクトスタートアップとして、児童福祉領域におけるデータ利活用の倫理的基盤をさらに強固に発展させることにより、ソーシャルインパクトに向けた取り組みを一層加速させることにつながると期待しております。

プレスリリース

株式会社AiCAN、児童虐待対応における意思決定AIの倫理基準について東京大学と共同研究契約を締結