リリース直後に発覚した、さまざまな問題

Q. 2019年8月19日のリリース当初、どんな様子だったか教えてください。

塩澤：LINEの全ユーザに対して一斉にオープンチャット機能をリリースしたことで、想定を大幅に上回る多くの方にご利用いただきました。しかし、中には不適切な使い方をするユーザもいて、人の目によるモニタリングが追いつかない状況でした。

結果として、放送禁止用語や無意味なスタンプの連続投稿、不適切な画像なども一定時間削除されずに放置されてしまうなど今考えると信じられない状況でした。

また、通知もデフォルトの設定がONだったため、活発なトークルームに入っている場合は、投稿がされるたびに通知が届いており、大変わずらわしい状況だったと思います。

社内からも「出会い系サービスにするつもりか」の懸念

原田：社内からも「LINEを出会い系サービスにするつもりか」と厳しい声が寄せられました。長年様々な課題を乗り越えてきた社内の関連部署からすればそう思うことも理解できますね。とにかく関連する部門が総出で連日対処方法について議論しました。

塩澤：社内もそうですし、多くのユーザのみなさまの期待を思いがけず裏切ってしまった形になってしまったことについて、運営チーム内も一時絶望的な雰囲気になったことを覚えています（苦笑）。

原田：実はリリースより前に、先行ユーザーの皆さんに10日間ほどご利用いただいていたんです。その期間に安心安全に活用できているか、どのように使われるかなど様々な検証をおこないました。

結果は、先行ユーザの皆さんと、そこから招待で入られた皆さんが想定していたよりもトラブルなくご利用いただいていた。だからこそ、そのままの状態で公開に踏み切ったという背景がありました。

Q. ここまで問題になってしまった原因はなんだったのでしょうか？

塩澤：冒頭のとおり、ここまで大きな反響があることを想定していなかったため、当時の人的モニタリング体制だけでは限界だったことが最大のセキュリティ上の問題だったと思います。表現の自由への配慮から、迷惑投稿や違反に対する自動削除機能も、実はリリース当時はありませんでした。

原田：結果として、モニタリングのガイドライン上では禁止していたLINE IDの交換や違反画像の投稿についての検知や削除対応が遅れたことや通知問題がマスコミにも取り上げられ、「オープンチャットは青少年には使わせたくない危険なサービス」というレッテルが貼られてしまいました。

「厳しくすることがだけが正解ではない」リスク対策に対する考え

Q. この問題を解決するためのリスク対策について、どのように考えていますか？

塩澤：実は、表現の自由やユーザビリティを保つこともリスク管理の一部と考えています。しかしながら、ガイドライン違反投稿を防止するための機能、たとえばNGワード（入力すると自動的に削除されるキーワードの設定）の導入は、考え方によってはそれと相反することになりかねません。

原田：そうですね、単純に制限を厳しくすることがだけが正解ではないと考えています。面白くない・魅力的ではないサービスになりますよね。

開発リソースにも限界はありますし、ハード面（機能改善）だけに頼らず、ソフト面で私たちがどういう考え方で判断、運営をしているのか、もっとメッセージを出す必要もあると考えています。

塩澤：国内8,300万人（国内・2019年12月末時点）にご利用いただいているサービスを提供する企業としては、そこがもっとも優先順位づけが難しいところであり、常に慎重かつ大胆に取り組むべき課題と考えています。

ユーザのニーズに合わせて行ったリスク対策について

”良いユーザビリティとはなにか”を追求しながら”攻めのリスク対策”を

Q. このような取り組みを経て、オープンチャットはリリース当初より安心・安全に配慮したサービスになっているということですね。

塩澤：たしかに、現在のOpenChatは前述にあるような自動と手動を組み合わせた様々な体制により、サービスリリース直後に比べて格段に安全な場所になりました。しかし、私たちはこれで十分だとは全く思っていません。今後もユーザの利用動向をリアルタイムに分析しながら、予測可能なものに対しては先回りを、また予測不可能だったものには迅速な対応を継続的に行なってまいります。

原田：最近では未成年同士のトーク量が増えている傾向にあります。親からするとまだまだ心配かもしれません。しかし、モニタリングの体制や様々な自動フィルターなどを強化していることや、オープンな場所であるからこそ目が行き届きやすく、モニタリングも十分にできるという安全な面もあると思います。

塩澤：オープンチャットのルールを知らずに利用されている方も見られるので、様々な方法で啓発をおこなう活動をしています。数字からは読み取れない部分も多く、実際に私たちもサービスに触れながら実態を把握し、安心・安全が保てているかどうかを引き続き考えてまいります。 さきほど述べた通り、一通り最低限のリスク対策は行いましたが、今後はそのひとつひとつの精度を高め進化させていくと共に、より良いユーザビリティは何かという視点を持ちながら、攻めのリスク対策を行なっていきたいと思います。

取材を終えて・・・

オープンチャットの安心・安全対策に終わりはなさそうですが、サービス開始当初と比べて、機能面・安全面でも大きく改善しており、さらに、管理者が運営ルールを事前に準備し、ユーザひとりひとりに周知できる体制が取れれば、安心して利用できる状態を保てることがわかりました。さらにシステム面での強化など『攻めのリスク対策』が行われることを考えると「オープンチャットは安全」と言える日も遠くないはず。

具体的な『攻めのリスク対策』については、オープンチャットnote編集部　セキュリティ担当として、現状を随時お届けします。

最後に、お二人からのメッセージを添えて、今回は終わりにします。