「クズ」→「人類の宝物」送られてくる誹謗中傷をポジティブに変換する機能を開発中…仕組みを聞いた

社会 技術

  • 誹謗中傷ワードをポジティブ変換する機能を開発中
  • 「バカ」→「東大卒」などユニークな言葉に変換
  • 開発者「誹謗中傷で傷つく人をなくしたい」

誹謗中傷ワードをポジティブに変換

生活になくてはならないものになりつつあるSNS。上手に使えば、情報収集やコミュニケーションを取ることが出来るが、一方で身勝手な誹謗中傷によって苦しんでいる人がいる。

このような対策として、Twitterには、嫌がらせや中傷を防ぐため、投稿に対して返信できる人を発信者が選択できる機能が最近追加された。

そして日本でも、SNSなどでの誹謗中傷対策になるかもしれないユニークな機能をエンジニアらが開発中で、その投稿が話題となっている。

誹謗中傷ワードをポジティブワードに変換して表示するchrome拡張開発中。 バカ→東大卒 デブ→ナイスバディ ブス→ミスユニバース マヌケ→一休さん 消えろ→ずっとそばにいろよ クズ→人類の宝物 殺すぞ→長生きさせるぞ

コメントとともにTwitterに投稿された画像は、誹謗中傷としてよく使われる言葉を、意味が逆の言葉に変換することができるchrome拡張機能「ネガティブバスター」のデモ画面。

例えば「バカ」は「東大卒」、「消えろ」は「ずっとそばにいろよ」といったように変換される。

現在は開発段階でまだ使用することはできないそうだが、TwitterやWebページを「ネガティブバスター」を使用した状態で閲覧すると、スマホなどの自分の画面上では、誹謗中傷に使用されている言葉が変換されて表示されるというのだ。
 

変換される前の画面
変換される前の画面

変換された後の画面
変換された後の画面

投稿したのは、大手複写機メーカーのエンジニアを中心に、日常を面白く豊かにする「なんか」を創造することをミッションに、企画開発しているユニットの「nanka」(@nankasince2016)さん。

Twitterでは「この機能から誹謗中傷のない世界が広まっていきますように」「何はともあれ面白かったです!笑わせていただきました」など声があり、約2万6千件のリツイート、約7万3千件のいいねがつくなど、話題となっている。(8月13日現在)

少しユーモアを感じる部分もあるが、完成すれば一方的な誹謗中傷に苦しむ人を少しでも減らすことが出来るかもしれないこの技術。

どんな言葉に対応しているのか? また、どんな仕組みで変換されているのだろうか? 投稿者の「nanka」さんにお話を伺った。

「誹謗中傷で傷つく人をなくしたい」

ーーなぜこのようなものを作ろうと思った?

昨今のSNS上での誹謗中傷に対して何かテクノロジーで解決できないかと思い考案しました。誹謗中傷をなくすというよりも、誹謗中傷で傷つく人をなくすという観点で構想しました。


ーーどういう仕組みで変換する?

まだ開発段階ですが、自然言語処理と機械学習を用いて変換する予定です。「形態素解析」という、単語や文章を分解して、誹謗中傷ワードと認識した単語を変換するといった仕組みを作りたいと考えています。

将来的には、ユーザーにあったパワーワードが選択されるようにしたいと考えています。

・ブサイク→イケメン(対義語)
40代の人むけにはキムタク/福山雅治
20代には吉沢亮/菅田将暉というような表示等ができればと思っています。


ーーなぜユーモアのある単語を選んだ?

誹謗中傷ワードを対義語にするだけでもいいのですが、さらに誹謗中傷ワードから離れさせるように変換(パワーワード化)することで、意味がわからないが、面白い文章になり明るい気持ちになればいいかなと考えました。


ーーどれくらいの種類の単語に対応している?

まだ具体的な数字は出ていません。誹謗中傷と完全に定義できる単語は多くないですが、組み合わせることで誹謗中傷を匂わせるワード等も抽出できれば、かなりの数になると思います。


ーー「nanka」さんお気に入りの変換ワードを教えて

消えろ→ずっとそばにいろよ
マヌケ→一休さん


ーー「アホ」「死ね」「価値が無い」「ガサツ」はどう変換される?

アホ→利口→東大卒/全国模試一位/ハーバード首席 等々
死ね→生きろ→不老不死になれ/生きろそなたは美しい/元気で白寿迎えろ
価値が無い (まだ検討中)
ガサツ→繊細→精密機器


例えば「アホ」という言葉の場合、対義語は「利口」であるが、表示される言葉として「東大卒/全国模試一位/ハーバード首席」が候補に上がっているという。


「年内には第1弾を公開したい」

ーー対応しているのは日本語だけなの?

海外の誹謗中傷ワード等も調査していますが、現在は日本語対応のみです。英語等の方が、単語ごとに分かれているので難易度は低いかもしれません。


ーー一般的に利用できるようになるのはいつ頃?

年内には第1弾を公開したいと考えています。


ーー誹謗中傷についてどう思う?

たとえ自分に言われた言葉でなくても嫌な気分になります。SNS上では誹謗中傷する人がいて、さらにその誹謗中傷するという負の連鎖が起きているのも見かけます。傷つく人も多く体力も使ううえに、何も生み出さない。当たり前ですが、いいことが何もないと思います。


ーー「nanka」さんも経験ある?

直接経験したことはありません。が、見かけることは多くあります。


ーー誹謗中傷はなくならないと思う?

十人十色という言葉にもあるように人はそれぞれ違うので、関わる人全員に好かれるのも、全員を好きになるのも難しいのでタイミングや境遇によっては人を傷つけたくなってしまう時もあると思います。

さらに昔は居酒屋等で言っていたことが、いまはSNSで簡単にできてしまう。人間の感情がなくならない限り、誹謗中傷をなくすことは難しいと思います。


ーー反響はあった?

ツイッターでは思ったよりも多くの反応があり驚きました。さらに何人かのエンジニアの方から一緒に開発したいとの連絡をTwitterのDM経由でいただきました。現在は親和性等も鑑みて検討中です。

画像はイメージ
画像はイメージ

 

社会問題ともなっているSNSなどでの誹謗中傷。

世の中から誹謗中傷を完全になくすことは難しいだろうが、「ネガティブバスター」には、誹謗中傷に悩んでいる人を減らす可能性を秘めている。

年内には第1弾を公開したいとのことなので、どのような形となって完成するのか期待したい。

(FNNプライムオンライン8月13日掲載。元記事はこちら

https://www.fnn.jp/

[© Fuji News Network, Inc. All rights reserved.]

FNNニュース