株式会社メルカリ（以下、メルカリ）の研究開発組織「mercari R4D（アールフォーディー）」（以下、R4D）と大阪大学社会技術共創研究センター（以下、大阪大学ELSI センター）との「ELSI」（Ethical, Legal and Social Issues／エルシー）に関する共同研究において、 AI倫理に関する論文「Addressing trade-offs in co-designing principles for ethical AI: perspectives from an industry-academia collaboration」が公開されました。
全文はこちら：https://doi.org/10.1007/s43681-024-00477-8
本論文の概要
本論文では、大阪大学ELSIセンターの研究者とメルカリグループの関係者が2021年から2022年にかけて実施した約20回のミーティングの議事録を分析の対象としています。ミーティングは、メルカリ独自の組織的なAI倫理原則を策定することを目指して実施されました。
ELSIセンターの研究者は、これらの議事録に残された発言の分析を通じて、ミーティングの中で議論されてきたAIの利用に関する価値観や課題について整理し、参加者が直面している以下のような4つのトレードオフを特定しました。
4つのトレードオフ
- AIシステムの利点を最大限に活かし、データ主導のアルゴリズムを活用すべきであるが、それが差別の再生産を誘導するものであってはならない。
- 自動化を進め、AI主導の意思決定を導入する一方で、人間中心のシステムは維持しなければならない。
- 企業の専有情報や個人情報は保護しなければならないが、AIシステムの開発と利用における透明性と説明責任は確保しなければならない。
- AIを活用したレコメンデーションを提供し、有意義な取引を促進する一方で、自由な参加に基づくオープンな市場を維持しなければならない。
これらの分析と議論の過程を踏まえ、本論文では、学術界と産業界の関係者のコラボレーションが、これらの複雑な問題を考察する上で有用なアプローチであることを提示しました。
さらに、分析の結果に基づいた今後の課題として、AI倫理に対する組織主導のアプローチが組織や社会に与える長期的な影響を理解するためのさらなる研究や、民間組織によるAI倫理原則が具体的にどのようなプロセスで策定されているのかに関するより多くの報告が必要であることを示しました。
なお、本論文はELSIセンターでも紹介されています。 https://elsi.osaka-u.ac.jp/research/2855
執筆者のコメント
-
Amelia KATIRAI（大阪大学ELSIセンター 実践研究部門 特任助教）
- AI活用にどう向き合うべきかと多くの企業で問われており、解決策として各企業独自の倫理原則の開発が進められています。しかし、このプロセスの中身が公開されないことも多く、学術的に分析されるというケースが未だに少ないことが課題です。この度は、メルカリのオープンなスタンスのおかげで、倫理原則の策定プロセスを分析し、公開することができ、倫理的なAI利活用に伴う複数のトレードオフにメルカリ独自の向き合い方について報告することができました。メルカリのAIチームをはじめとする、本研究に貢献したメンバーに感謝いたします。
-
長門裕介（大阪大学ELSIセンター 実践研究部門 特任助教）
- 約20回とかなり長い時間、AI倫理原則のためのミーティングに参加しました。ほぼフルスクラッチで倫理原則を策定するという野心的な試みに当初から併走することができ、それ自体大変勉強になりました。今後ともメルカリグループのAI倫理にかかわる活動に注目しながら、AI倫理の研究を進めていきたいと思います。
担当者のコメント（R4D・井上）
このたび、AI倫理に関する2️年間にわたる大阪大学ELSIセンターとの共同研究の成果が、学術論文として採択・公開されました。
本論文では、メルカリがAI活用において倫理的な課題にどう向き合っているのか、具体的なプロセスや、そこで直面したトレードオフについて分析しました。 本論文は、メルカリのAI倫理への取り組みが学術的・国際的に一定の評価が得られたという点で、意義深いものであると捉えています。
今後もメルカリの多様な研究開発領域、企業活動を対象とした人文社会科学系の産学連携を積極的に推進していきます。
※本研究に関するお問い合わせは、R4D Web内コンタクトページよりお願いいたします。