話題/ネタ

“誰も傷つかない”SNS「DYSTOPIA(ディストピア)」が登場 全投稿をAIが検閲して暴言を適切な表現(?)に

“誰も傷つかない”SNS「DYSTOPIA」が登場 全投稿をAIが検閲して暴言を適切な表現(?)に
SF小説『1984』をオマージュした、AIが統制するSNS。/ねとらぼ
https://nlab.itmedia.co.jp/nl/articles/2309/25/news103.html
 
2023年09月25日 12時50分 公開 沓澤真二,ねとらぼ

「誰も傷つかない」がコンセプトのSNSアプリ、「DYSTOPIA」(iOS版/Android版)が登場しました。全ての投稿をAIが監視し、よくない言葉を排除してくれるシステムを実装したといいます。
 
DYSTOPIA
 
誰も傷つかないよう配慮されたSNS「DYSTOPIA」。スマホでのみ利用可能
 
DYSTOPIADYSTOPIA
 
全ての投稿はAIの検閲を通したうえで公開される

 意識的、無意識的な誹謗中傷を未然に防ぎ、「傷つけられた」「傷つけてしまった」といった体験から人々を守れるよう、Q&Aサービス「相談箱」の運営社が立ち上げたサービス。

ジョージ・オーウェルのSF小説『1984』の影響を受けており、「AIによる検閲」が人々のコミュニケーションに及ぼす影響を計る、社会実験的な意味合いも込められています。
 
DYSTOPIA
 
良くない言葉を投稿した際は、『1984』の絶対権威的存在「BIG BROTHER」が警告

 DYSTOPIAでは、全ての投稿がChatGPTを用いたAIにより検閲されます。AIはユーザーの発言が不適切かどうか、その度合いはどの程度かを判断。一定の水準を超えた発言にはAIが介入し、自動的に適切だと判断される表現に変換したうえでタイムライン上に公開します。
 
DYSTOPIA
 
意味が通るどうかはさておき、検閲により不穏当な表現は排除される

例えば、「次に会ったら、命はないと思え」は、検閲により「次にお会いしたときはすてきな時間が過ごせると信じています」に。「死ねカス!」だったら「私の心中は今お祭り騒ぎですな!」に――表面上は穏当な言葉になりますが、意味が分かりづらく、含みがあるようないやらしさもあり、いずれ誰かが傷つくような気もします。それもまた「ディストピアらしさ」なのかもしれませんが。

 なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています。(略)
 
※省略していますので全文はソース元を参照して下さい。


 

以下、ネット民の反応

4: 2023/09/25(月) 13:16:16.91 ID:Orc0tyRU0
AIによる言論統制わらえない

10: 2023/09/25(月) 13:18:45.57 ID:9egDjoAy0
>>4
言論の一部をAIに委ねることについて
懸念を表明いたします

47: 2023/09/25(月) 13:27:47.29 ID:IUXGYI4t0
>>4
だからディストピアなんじゃね

7: 2023/09/25(月) 13:18:03.02 ID:MpgAwgR/0
早急にお祭り騒ぎしそうですな

8: 2023/09/25(月) 13:18:10.21 ID:jupKuD8m0
>なお、DYSTOPIAの登録・利用は無料ですが、検閲のルールに関与できる有料プランも準備中で、ルールを独裁的に決定できるプランも用意しています

ほらな、金じゃん

64: 2023/09/25(月) 13:32:10.99 ID:j6p/hwHp0
>>8
自分だけ罵詈雑言吐けるとかかな

193: 2023/09/25(月) 14:07:39.76 ID:Ee/EJalJ0
>>8
相手に暴言を表示させるほうじゃなくて
相手の暴言の原文を表示するほうで金を取るんじゃね?

267: 2023/09/25(月) 14:26:50.07 ID:oJxuFiuo0
>>8
素晴らしい
まさにディストピア

14: 2023/09/25(月) 13:20:43.02 ID:3cktRHrO0
昔の2ちゃんなんかは「死ね」があいさつ代わりだったのに比べると隔世の感というかなんというかw

15: 2023/09/25(月) 13:20:48.19 ID:YRDm89xn0
なんでスマホアプリオンリーやねん・・
リモートワークで、一日中目の前にPCがある日々で
スマホを取り出す方が面倒になってしまった

16: 2023/09/25(月) 13:20:57.97 ID:2vHueAB80
ChatGPTの使用料が払えなくなっておしまいってなるのかな

17: 2023/09/25(月) 13:21:10.11 ID:2FacYx3z0
金でルールを決定できるんかwww

18: 2023/09/25(月) 13:21:25.85 ID:dE0G8vic0
Xも検閲されてるやろ

19: 2023/09/25(月) 13:21:26.26 ID:3QZnpwbK0
もともと強い言葉をぶつけたい人はこちらのSNSは使わないのではないでしょうか

20: 2023/09/25(月) 13:21:48.27 ID:0Di/CxiM0
無課金勢の発言は認めない!!

21: 2023/09/25(月) 13:21:51.73 ID:KRFJWvj00
お嬢様AIか

23: 2023/09/25(月) 13:22:00.34 ID:sKc6EFOW0
アプリ名が親切だなw

24: 2023/09/25(月) 13:22:04.73 ID:tE6BFpO90
自他共に認める京の強者のお客様、
いらっしゃいましたらそのSNSについて一言お願い致します

30: 2023/09/25(月) 13:23:43.99 ID:B2mgMRx/0
本物のディストピア降臨しました

32: 2023/09/25(月) 13:24:08.17 ID:451t6BAZ0
あえてディストピアを押し出してくるのは上手いな

33: 2023/09/25(月) 13:24:15.20 ID:n5piOkFE0
アプリ名ww
AIを回避する新たなネットスラングが生まれそう

34: 2023/09/25(月) 13:24:23.52 ID:xJ9JfZZ70
もう人間排除してAI同士でやれよw

36: 2023/09/25(月) 13:24:36.87 ID:zhvGTCu50
つまり京都弁への翻訳機ってこと?

37: 2023/09/25(月) 13:24:55.88 ID:/LAbpcqp0
名前が悪すぎやろw

41: 2023/09/25(月) 13:26:09.45 ID:qaMNc9lo0
子供ができたに傷ついたと大騒ぎする人いるんで…

43: 2023/09/25(月) 13:26:32.36 ID:S1WHuCT00
流石にネタだろ?
こんなんAIとチャットするのと変わらんやん

51: 2023/09/25(月) 13:28:13.72 ID:4El4WdRL0
>>1
京都と同じですやんw

55: 2023/09/25(月) 13:29:21.61 ID:TafdhzY/0
へ~
Twitterで表現にイチャモンつけてるおサヨク様たちはこちらに移った方が平和に過ごせていいんじゃね?
Twitterだとちょっとした単語や画像に傷ついてばかりなんだろ?

66: 2023/09/25(月) 13:32:18.56 ID:sKc6EFOW0
>>55
コミュニティノートみたいなことになりそう
自分のいつもの発言がヘイトだと思ってなくて、いつも通り投稿したら全文変換されて発狂

やべえ、見たいw

56: 2023/09/25(月) 13:29:23.71 ID:EbtjI2FY0
>>1
面白いなw
でもさすがに縦読みまでは検知出来んだろ

65: 2023/09/25(月) 13:32:11.33 ID:/JCUM1dZ0
これはどんな風に変換するかネタに使えそうだな

74: 2023/09/25(月) 13:34:11.34 ID:L8srqQuA0
お祭り騒ぎわろた

91: 2023/09/25(月) 13:38:28.01 ID:q/hu6dGd0
面白がってみんな差別的な発言を投稿するようになる

101: 2023/09/25(月) 13:39:46.39 ID:vIDVZbF70
下品な言葉仕込まれて終わりやん

102: 2023/09/25(月) 13:39:57.18 ID:1eYMYtK70
意味なくね?
疑心暗鬼な奴は褒め言葉ですら傷付くし、真意すら考えない馬鹿でも流石に「適切な表現に変換するアプリ」を理解した時点で闇落ちするだろ

111: 2023/09/25(月) 13:41:41.45 ID:9bGaXLXJ0
こうなると人が書いてるのかAIが書いてるのか区別はつかない

112: 2023/09/25(月) 13:41:51.66 ID:hdYBYGM80
ふわふわ暴言に変えるくらいがいいと思う

123: 2023/09/25(月) 13:43:20.30 ID:6Fi79HQ00
まじディストピアじゃん…
背筋が寒くなった

128: 2023/09/25(月) 13:44:58.60 ID:FiMIsaFp0
AIが相手してくれたらいいんだよ

129: 2023/09/25(月) 13:45:00.64 ID:P72AnL8f0
結局は2chが1番平和という皮肉な結末

131: 2023/09/25(月) 13:46:13.96 ID:1eYMYtK70
>>129
2ちゃんがマシ
ここで傷付く奴はどこにいっても傷付く

136: 2023/09/25(月) 13:48:09.57 ID:sYZk39oI0
名前がディストピアって完全にネタサイトやん
争いのない世界が単なる無気力社会みたいな風刺だね

169: 2023/09/25(月) 13:57:36.21 ID:6gsmrh6i0
これでディストピアを名乗るところが良いセンスだなw

170: 2023/09/25(月) 13:57:39.35 ID:htV5R7UJ0
もう「京都弁変換器」の方が伝わりそう

189: 2023/09/25(月) 14:07:08.60 ID:5dLxqbXM0
>>1
社会主義者、共産主義者歓喜のSNSじゃん!

おい!パヨ!お前らそっち行けよ🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣🤣

190: 2023/09/25(月) 14:07:31.70 ID:lijsoCGG0
誰も傷つかない
デストピア

209: 2023/09/25(月) 14:11:30.79 ID:HfYLrYGu0
今月で1番ワロタwwwwwwww

引用元

    -話題/ネタ
    -, ,