メルカリグループでは、ChatGPTなどの生成AIが登場する以前から、AIを積極的に活用してきました。

生成AI・大規模言語モデル（LLM）を活用し、2023年10月には、お客さま一人ひとりのためのAIアシスタント機能「メルカリAIアシスト」を、2024年9月には、写真を撮ってカテゴリーを選ぶだけで商品情報が作成される「AI出品サポート」の提供を開始するなど、AIを活用する動きはさらに増しています。そして現在、社内の業務改善などプロダクトの実装以外にもAIが導入されるようになりました。

全社でAIを導入することによって、業務効率や生産性の向上が見込めます。一方で、AIが世界中で爆発的に広まったことによって、これまでの業務では起こり得なかったリスクが発生する可能性もあります。メルカリでは、考え得るリスクに対してどのような対策を取っているのでしょうか。メルカリのAIガバナンスの構築をリードする、New Reg, Tech & Regionsチームの落合由佳（@Yuka）と政策企画チームの松橋智美（@Mattsun）に話を聞きました。

「3ヶ月前の情報は古い」。移り変わりの激しい市場でガイドラインを引いていく

──AIガバナンスの構築におけるおふたりの役割について教えてください。

@Yuka：まず私とMattsunさんの役割を大きく分けると、Mattsunさんが社外の対応を、私が社内の対応を、おもに行っています。

@Mattsun：行政機関や外部の有識者、他社といった社外の方々とコミュニケーションを取って、AIガバナンスに関する情報収集や意見交換をしています。また、コミュニケーションを通じて「メルカリはAIガバナンスに対してどのような取り組みを行っているか」を社会に認知していただくことも私の役割です。

@Yuka：私は、メルカリグループとしてどんなAIガバナンスを築いていくのか、社内でプロジェクトをリードする役割です。もう少し詳しくお話すると、Public Policy、R4D、eliza（生成AI/LLM専門チーム）、Machine Learningチーム、Privacy Office、Security、Legal、IPなど…さまざまな部署を繋いで、社内のAI活用に関するガイドラインの作成・改定をリードしています。私のチームの活動は今年の4月に本格的に始まったばかりなので、今は関係部署のメンバーを集めてお互いのことを知るためのチームビルディングをしたり、OpenDoorを通じて社内に取り組みを提示したり、キーパーソンを整理したりしているところです。

──メルカリの取り組みについて詳しく伺う前に、まずは現在のAIを取り巻く概況を教えていただけますか。

@Mattsun：2023年は米OpenAI社のChatGPTが登場したことにより生成AIが普及し、利便性向上とともにAIの開発・利用に伴うリスクについても世界規模での検討が必要となりました。G7広島サミットで「広島AIプロセス」の国際的な枠組みが策定され、アメリカでも「AIの安心安全で信頼できる開発と利用に関する大統領令」が発令されたり、中国も生成AIを対象とした法令が策定されるなど、世界的にAIをとりまくルールの整備と議論が進んだ年でした。2024年には日本でも「AI事業者ガイドライン」が策定され、EUでは「AI規制法」がついに成立しました。

メルカリとしても社会の動きに取り残されないよう、従来から行っていたAI倫理の取組やAIガバナンスの構築により一層力を入れ始めたところです。今は世界の状況を追いかけつつ、大阪大学社会技術共創研究センター（ELSIセンター）とメルカリの共同研究として、社内ガイドラインやチェックリストを作っています。

──情報収集はどのようにしているのでしょうか？

@Mattsun：積極的にAIを活用している国内外の大手企業の事例を参考にしたり、海外のカンファレンスへの参加や、インターネット上の情報に常にアンテナを張って情報収集しています。また現在、情報法の最新分野を研究するために大学院に通っているんです。仕事のためというよりも、AI関連をはじめとした情報法分野の情報収集が私のライフワークになっています（笑）。

──Mattsunさんが収集した情報を、Yukaさんはどのように社内展開しているのでしょうか？

@Yuka：私がAIガバナンスの仕事に携わり始めたのは、今年の4月からです。そのため、これまでに取り組んだことはまだ多くはないのですが、AIに関する各種情報をまとめて役員にインプットしたり、OpenDoorという社内メンバーへの解説会を開催し、社員の認識を揃える活動をしています。その結果、AIガバナンスに対する社内の関心が高まっているのを感じています。今は、昨年制定された社内向けAI活用のガイドラインの改定を進めているところです。

──昨年つくったばかりなのに、もう改正が必要なんですね。

@Yuka：ガイドラインは、作成時点の技術情報やユースケースをもとに作られています。時が経つと技術の進展や新たなユースケースが発生するため、それをカバーするための改定が必要です。特にAIは「3ヶ月前の情報は古い」と言われるほど、移り変わりが激しい市場。ガイドラインの改定もスピーディーに行う必要があります。

具体的に言うと、昨年つくったガイドラインでは、「AIに入力しても良いデータの種類」などを定めています。しかし、誤情報を出力してしまうなどのリスクもあるため、入力するデータだけでなく、出力するデータの扱いも定めなければいけません。また、昨年のガイドラインはOpenAIの「GPT」利用を前提としたものなのですが、今はGoogleの「Gemini」など他のAIも活用しています。それに対応した改定も必要ですね。

全社でAIを使うため、「責任あるAI」を推進していく

──メルカリではChatGPTが話題になる以前からAIの活用に取り組んでいますが、AI倫理の取組やガバナンスの構築をより加速させる必要性に気づいたんですね。

@Yuka：以前から、「なんとかしなきゃ」とはみんな思っていたんです。でも、市場の流れは早いし、世界中に情報は点在しているしで、体系立てて整理するのが大変だから本腰を入れられない時期が続いていました。

@Mattsun：それで言うと、ChatGPTをはじめとする生成AIの登場が、社内のAIに対するリテラシーを高める追い風となったかもしれません。それ以前のメルカリでは、AIを使うのはデータエンジニアやデータサイエンティストといった、ごく限られた専門職の人たちでした。生成AIが登場したことで、それ以外の職種の人たち…もっと言うと、ノンエンジニアの人たちもAIを使うようになって。その結果、いつどんな場面でAIが使われているのかが把握しづらくなってしまったんですよね。

──把握しづらくなることで、どんなリスクが起こり得るのでしょうか。

@Yuka：例えば、画像生成AIで作成したキャラクターを素材にして広告をつくったら、そのキャラクターが既存のものと類似していて著作権侵害で訴えられてしまう、などが分かりやすい例でしょうか。他にも、個人情報や機密情報が含まれるデータをAIに入力してしまって、学習データに使われてしまう、AIを使ってお客さま向けのChatbotをつくったけど、誤情報を吐き出してしまう、などですね。

@Mattsun：あとは、セキュリティチェックを受けていないLLMツールを使って、情報漏洩やウイルス感染の危険にさらされる可能性もありますよね。

──少し考えるだけでも、たくさんのリスクが存在しているんですね。

@Mattsun：そうなんです。ただ、生成AIの活用によって社内の作業効率が大きく向上したのも事実です。これからもAIを使い続けるためにも、何か起こる前にルールをきちんとまとめなければ、という意識が全社的に高まったのだと思います。

──では、エンジニアだけでなく、全社でのAI活用が盛んになっていく中で、おふたりは現在どんな課題を感じているのでしょうか。

@Mattsun：現在のメルカリでは、職種や所属部署によってAIに関する知識のばらつきがあります。ただ、概況でもお話したように、世界中でAI活用の社会的なインパクトはどんどん高まっています。それに伴い、リスクと向き合いながら上手にAIを活用している企業も増えてきています。そう考えると、メルカリも早急に社内のリテラシーを引き上げて、「責任あるAI」を推進するためにAIガバナンスを構築していかなければいけません。そのためにも、概況や社外の好事例を収集して、AI活用の方向性のヒントを提供し続けなくてはと思っています。

また、収集した情報を社内に展開することが多いですが、社外に情報発信することも重要だと考えています。例えば、必要に応じてAI関連の政策やルール形成について提言することもあります。私たちとしては、内外に情報を発信する「情報のハブ」でありたいと考えています。

@Yuka：AIを触り慣れていない場合、「ちょっと怖い」という気持ちがあると思うんです。「こんな使い方で大丈夫かな」「この社内情報を入力して、情報漏洩しないかな」といった不安から、AI活用をためらうことも多いはず。ガイドラインは、このような心理的障壁を取り除き、AI活用を後押しする強力なツールなんです。安心してAIを使えるように、社内の現状に即したガイドラインを作成・周知し、AIの適切な利用方法を明確にしたいですね。

全社員が安心してAIを使うことにより、生産性向上やAIリテラシー向上につながり、組織全体のAI活用能力を高められると考えています。私は、「エンジニアに限らず、全社員がばりばりAIを使いこなしているメルカリにしたい！そうしたらすごいことが起きる！」という思いで、日々取り組んでいます。

──ガイドラインの策定以外にも、社内のAIリテラシーの向上のためにいろいろな取組みをされていますよね？　例えば先日、メルカリグループのAIに関する取り組みをシェアする「Lunch&Learn（社内勉強会）」を主催されていましたが、参加者からはどのような反響がありましたか？

@Yuka：事後アンケートをとったところ、「AIについて網羅的に知れてよかった」という声は多かったです。それを聞いて、情報を集約して網羅的に学べる場が必要だなと改めて思いました。

──社内でのAI活用が進む一方で、”情報迷子”になっている人が多いということでしょうか。

@Mattsun：そうですね。メルカリには、自発的に考えて、調べて、行動する人たちが集まっています。それ自体はとても良いことだと思っているのですが、だからこそ情報が分散しやすいというか。この点在した情報を、一元化しないと社内の​​”情報迷子”は解決できません。

ではどうやって情報を集約するかというと、Open DoorやLunch&Learnのように情報を発信する場を設けることだと思うんですよね。情報を発信する人のところに、情報は集まってきますから。

@Yuka：必要な情報がどこに載っているかはもちろん、誰に相談したらいいかも分からなくて、情報迷子になっている人も多いですよね。特にAIに関しては、関わっている部署が多岐にわたりますからね。ちなみに、Lunch&Learnがきっかけで、誰に何を相談したらよいかが分かる「相談先一覧」を作成したんですよ。

職種や経験に関係なく、誰でも気軽に読めるガイドラインを作る

──全社でのAIの活用は、今後さらに活発になっていくと思います。AI利用のルールがないと、リスクが増える。一方で、ルールを固めすぎると事業のスピードが落ちてしまう。非常にバランスを取るのが難しい領域だと思うのですが、どのような方針でガイドラインを構築していくのでしょうか。

@Yuka：専門用語をできるだけ使わず、誰にでもわかりやすい言葉で書くようにしています。そもそも、「ガイドラインを読むのが苦手」「めんどくさい」という人がほとんどだと思うんですよね（笑）。メルカリでは全社員がAIを活用することを想定しています。だからこそ、職種や経験に関係なく気負わずに読める内容でないと、ガイドラインを活用してもらえません。詳細なガイドラインの作成と同時に、社内のAIについて網羅的に理解できる「とりあえずはこれだけ読んでおけばOK」というサマリーも随時作成・更新していく予定です。

@Mattsun：どんな内容だと読みやすいか、読みたくなるか。実際に使う人たちと対話をしながら作成するように心がけています。

@Yuka：また、メルカリの企業文化や価値観に合わせた内容にすることも意識しています。例えば、メルカリでは「Go Bold（大胆にやろう）」というバリューを掲げていますが、AIの活用においても、リスクを恐れずに挑戦していく姿勢を大切にしたいと考えています。そのため、ガイドラインでも、リスクを過度に強調するのではなく、AIの可能性を最大限に引き出すことを意識しています。

AIガバナンスの構築は「終わりなき旅」。メルカリが目指す未来とは

──最後に、今後おふたりが取り組んでいきたいことを聞かせてください。

@Yuka：AI業界は変化が激しく、かつ社内のユースケースもどんどん生まれてくるので、ガイドラインのマイナーアップデートは毎週のように行っていきたいですね。ガイドラインの策定も、アジャイルを意識すべきだと思います。AIガバナンスの構築は「終わりなき旅」だと思っています。

また、OpenDoorやLunch&Learnといった社内勉強会だけでなく、eラーニングを活用して、社内全体のAIリテラシーのボトムアップを図っていきたいです。

メルカリでは、AIガバナンスの構築を通じて、全社員が安心してAIを活用できる環境づくりを目指しています。AI技術の進化とともに、新たなリスクや課題にも柔軟に対応していくことで、より多くの人々に新たな価値を提供していく未来を目指しています。

@Mattsun：幅広いメンバーに興味を持ってもらえそうな切り口の勉強会を開催できると良さそうですよね。例えば、AIと知財分野に強い弁護士や、倫理学の研究者など、外部のスペシャリストをお招きしてパネルディスカッションをするのも面白そうです。

メルカリがAIに関してどんな倫理観を持っているのか。どんなガバナンス機能を持っているのか。メルカリをご利用いただいているお客さまはもちろん、行政機関、関係会社も含めたステークホルダーの方々に対して、そういった発信を増やしていきたいですね。日々メルカリに関わってくださる方々に安心していただけるよう、透明性を担保するのも私たちの大切な役割だと思っています。

執筆：仲奈々　編集・撮影：瀬尾陽（メルカン編集部）