2025年6月11日から、社内へ向けたトークセッション「リーダーズと語る！AI/LLM舞台裏 Open Door」がスタート。ラジオの公開収録形式でお届けするこのセッション、最終回となる第6回目のゲストは、CISOの市原尚久（@ichihara）。

AI/LLM時代におけるメルカリのセキュリティ最前線について、AI/LLM室のハヤカワ五味（@gomichan）をモデレーターに、熱を帯びたカジュアルトークが繰り広げられました。

自身もバンドを組んでいる背景から、セキュリティのスタンスを“ロック”になぞらえ語った60分。メルカリのセキュリティチームが、どのような哲学とスタンスでAI時代に挑んでいるのか、その舞台裏に迫ります。

*この記事は当日の音声をもとにAIツールで構成、執筆を行っています

「総合格闘技」と呼ばれるCISOの役割

@gomichan： そもそもCISOってどんなことをされていて、どんな役割を持っているんですか？

@ichihara： Chief Information Security Officerの略なのですが、世界的にもセキュリティ関連の責任者はみんなCISOという名前を持っています。
管掌範囲は、プロダクトからプロダクト環境、IT業務環境、SlackやGoogleなどのツール、そして契約まで含めたほぼ全般で、どんなデータを使っているか、個人情報をどこに置くかといったことも含めて全般的なチェックや、統制するためのルール策定、モニタリング監視などを行っています。

@gomichan： かなり管掌範囲が広くないですか？

@ichihara： そう、全方位スコープに入るから、総合格闘技と言われてます 。だからそれぞれの得意分野で7〜8チームに分かれてるんです。

“ロック”なセキュリティスタンス

@ichihara： 日頃から、ブロッカーよりイネイブラー*になりたいって話をよくしています。最近も他社のセキュリティ担当者や、CISOの方と話をすると、PoCも含めて、メルカリほどAIを使ってる会社はまだ少ないです。

*Enable（=可能にする）役割を指し、実現させる人というニュアンスで使われています

@gomichan： 全社的にガツっとテコ入れ、というのは意外に例を見ないなって思いますね。

@ichihara： セキュリティやプライバシーの審査は、リスク回避のためにまず「止めること」から始まることが多くて、それを当たり前のものとしてみんなが受け入れている風潮がありましたが、それってどちらかというとブロッカーに近いじゃないですか。でも、イネイブラーってやっぱり攻めの姿勢で賑やかに立ち回る“ロック”な存在だと思っていて。

何かを実現するために支援している段階で、我々でさえまだ分からない未知なリスクも絶対あるはずなので、それらの要素を素早くモニタリングして未然の火消しに回るっていう消防士的な動きも必要だと思うんです。この「消防士的な動き」という表現は、メルカリのセキュリティチームのスタンスを象徴しています。完全に安全になるまで待つのではなく、リスクを承知の上で前進し、日々モニタリングをし、問題が起きたら素早く対応するという考え方です。

メルカリセキュリティを支える3つのキーワード

@ichihara： メルカリのSecurity&Privacy部門のビジョンとして「By Design」「By Default」「At Scale」という3つのキーワードを掲げています。

1つ目の「By Design」は、いろんな新しいツールを作る時に最初からセキュリティを考えて、実装する前に色々シミュレーションしてから実装するような考え方。セキュリティやプライバシーを最初から考慮して設計するという概念で、これは「Security by design」や「Privacy by design」とも呼ばれています。安全なシステムを後から作り込むのではなく、企画段階から組み込むことで、より確実で効率的なセキュリティを実現するというものです。

2つ目の「By Default」は特にAI活用に関連が深い概念です。従来は「安全な状態にするためにこのプロセスを経てください」「この承認を得てください」といった手順が必要でしたが、そうした手順が入ると作業スピードが落ちてしまう。それよりも、知らない間に安全な状態で仕事ができている方が良いので、リスク回避のプロセスを最初の段階で組み込んでおき、意識しなくても安全が保たれている状態を目指しています。

3つ目の「At Scale」はスケールビリティの話で、事業の成長や従業員の数、PCの数などが増えても、セキュリティ組織は人を増やさなくても対応できる仕組みを持つということです。外注の数も増やさなくてもちゃんとスケールできる体制があれば、コスト的なブロッカーにもならない。この3つの要素を実現できている会社は世の中にもあまりなく、結構いいチャレンジだと考えています。

セキュリティチームの実際のAI活用事例

@ichihara： 現在運用開始済みの事例は25年8月時点で12件ほど。実際に稼働しているツールの一つに、メンバーの @simon が昨年開発したピアレビューやセルフアセスメント向けの支援ツールがあります。

簡単に説明すると、期間を指定するとSlack上の投稿からその指定期間、例えば今年の1月から6月末までのSlackの会話を、特定の業務とかプロジェクトの関わり方とか貢献みたいなものをAIが要約してくれるんです。評価の時期にあたる6月だけでも9600回も使われているのですが、そのコストはごく小さなもの。全社的に使われるツールがこれほどコストパフォーマンス高く利用できることは、驚異的だと思います。

@gomichan： 他にはどのような場面でAIツールが使われていますか？

@ichihara： AIで生成したE-learning漫画があり、プライバシーの教育コンテンツを漫画形式で提供しています。従来のE-learningは、スライドやテキストで期限付きで配信されるため、正直言ってしまうと退屈で（笑）。最初は動画コンテンツを制作しましたが、その流れで「漫画も面白いのではないか」というアイデアが生まれ、実現に至りました。

また、外部サービス審査の自動化も大きな成果を上げています。今まで人がわざわざサイト見に行ってチェックしていた作業をAIに審査させることで工数が半分ぐらい削減できました。

「気軽な相談先になりたい」AIセキュリティチーム新設と今後の展望

@ichihara： 直近では、AIセキュリティチームという新しいチームが7月から正式に立ち上がりました。AIリスク審査の基準策定や審査プロセスの効率化に加えて、技術的な側面のリスクについても取り組んでいます。特に、専門外の方には分かりにくい技術的なリスクを適切に言語化し、チェック体制を整えてバランスを保つことも、重要なミッションとして担っています。

黙って使うより、むしろ「相談した方が早いですよ」ということをよく伝えています。相談せずに使ってヒヤリハットが発生するケースがすでに複数あるので、何も気にせず何でも質問してもらって構いません。とにかく使う前には相談をしてほしいです。

@gomichan： 怒らないよ、ってことですよね。

@ichihara： 本当にそう。大丈夫だよ、という気持ちですよ。やはり事前相談なしだと、事故が起きるのは目に見えているので、こうしたセキュリティ体制におけるスタンスは、競争力の重要な要素の一つだと考えています。

メルカリがAI時代でAI-Nativeカンパニーとして勝つためには、まず事故を起こさないことが重要です。大きな事故を起こしてしまうと、ガバナンスを最強にしなければならなくなりますが、それでは組織が重くなり、動きが鈍くなってしまいます。

あと、セキュリティの人が来るとドキドキするよと言われるんですよね。何かインシデントが起きた時に動くチームなので気持ちはわかりつつも、「明るくてロックンロール」なメンバーばかりなので、是非気軽に声をかけてほしいし、皆さんも仲良く交流してもらえると嬉しいです（笑）！