1: 名無しのコロッケ 2024/03/29(金) 10:29:13.67 ID:??? TID:ayukawa
いまや企業のみならず、社会全体に大きな影響をおよぼすようになったAI(人工知能)。しかしそれは万能というにはほど遠く、日々さまざまな問題が報じられている。
中でも大きく懸念されている点のひとつが、AIの「差別意識」である。もちろん現在のAIは「意識」と呼べるようなものを持っておらず、単にこれまでの人間の行動を学習して、それを真似してさまざまな判断を下しているに過ぎない。しかし、だからこそ、過去に人間が意識的あるいは無意識のうちに行っていた差別や偏見が反映されてしまい、差別的な行動を取るAIが登場してしまっているわけだ。
この問題は早くから注目されており、たとえば2019年に発表され、42か国が同意したOECD(経済協力開発機構)の「人工知能に関するOECD原則」では、AIが「多様性を尊重」し、「公正公平な社会を確保する」ようにすべきであるとの宣言がなされている。しかしそれから5年が経過した現在でも、AIの差別・偏見問題は解決されておらず、むしろそれを解決することの難しさが浮き彫りになっている。
たとえば国連のユネスコ(国際連合教育科学文化機関)は今年3月、
続きはこちら
https://news.yahoo.co.jp/articles/cc019105250b3d1b33335cdde27dce5ae87c915e
22: 名無しのコロッケ 2024/03/29(金) 11:04:20.16 ID:Wov7J
>>1
黒人は貧困率が高く、教育水準が低い為に犯罪に手を染め易い故の結果だろ
43: 名無しのコロッケ 2024/03/29(金) 11:54:54.16 ID:HLFtA
>>1
そもそもAI裁判官に人種を入力しなけりゃ良いのでは?
80: 名無しのコロッケ 2024/03/29(金) 16:13:28.17 ID:CeHZz
>>1
普通にAIは米国感情の事例を学習して出した結果やろな。
120: 名無しのコロッケ 2024/03/30(土) 12:15:15.55 ID:xfEfJ
>>1
女性と黒人は、結構以前からアファーマティブ・アクションで過剰に優遇され続けてきた
それでも犯罪者が一向に減らず、差別を盾にして無罪をもぎ取ってきたクズ犯罪者だらけ
その情報もAIに入っているからそういう判定にもなる
当然の事だ
2: 名無しのコロッケ 2024/03/29(金) 10:32:09.19 ID:TNhvA
AIがそもそも判断を下すには学習する為の情報が必要で
その情報を提供すると
恣意的に黒人を裁く例が過去に多かったことから
それが当然の判断としてAIが黒人有罪にしがちってことだろこれ
6: 名無しのコロッケ 2024/03/29(金) 10:36:53.82 ID:XFoPI
>>2
それだと統計の結果でしかないな
10: 名無しのコロッケ 2024/03/29(金) 10:41:18.30 ID:TNhvA
>>6
統計の結果に基づいて判断下すからAIっていいよね、って話だったんだよ元々
問題はその統計自体が人間や各地域の主観性が混じったもので
その悪質性も一緒にそのまま学習して出力してしまう、という点で
まぁだから規制云々って話になっとんのよな世界では
例えば人類が増えすぎて食料が足りませんどうしましょうか、という問いかけをすると
「人間は過去に戦争をして人口を減らしました。同じように殺処分すべきです」とかってなる
人間がAIに求めてる答えは効率的な農産物の育成方法や
あるいは他の星を植民地にする方法とかなのだが、みたいな
87: 名無しのコロッケ 2024/03/29(金) 19:13:59.07 ID:ko7C1
>>10
殺処分は一緒じゃない
戦争しろにしないとね
79: 名無しのコロッケ 2024/03/29(金) 16:10:56.84 ID:SUMxR
>>6
今の所統計に依存した結果を出してるだけだからね。
生産性の改善には使えても
人々が期待している様な創造性には程遠い。
3: 名無しのコロッケ 2024/03/29(金) 10:32:28.29 ID:x20im
そやな
4: 名無しのコロッケ 2024/03/29(金) 10:33:39.12 ID:nGFSH
人種別に補正かけとけよw
5: 名無しのコロッケ 2024/03/29(金) 10:35:39.63 ID:TNhvA
AIは主観性がないから本当に分かりやすく人類の歴史を映す鏡になるな
黒人が近年優遇されているならそれが多数派ということでAIは黒人を優遇するハズだが
それをしない、ということは
現在の人類は過去から引き続き黒人を差別している、というのが事実というか
>>4
補正かけるかけないじゃなくて、そのまんま現在の価値観を映し出すのがAIだから
7: 名無しのコロッケ 2024/03/29(金) 10:37:23.59 ID:Y5a8p
>黒人に
サンプルはちゃんと同じ罪状同じ経歴なのに、で取ったのか?
犯罪者が偏った人種に多いなら、そりゃ差別や偏見じゃねーぞ?
8: 名無しのコロッケ 2024/03/29(金) 10:38:15.91 ID:4Godf
重犯罪は黒人が多いってことだろ
11: 名無しのコロッケ 2024/03/29(金) 10:42:13.46 ID:nGFSH
>>8
それプラス。黒人だと重罪でも、白人だと謎の無罪を学習したとすれば
さらにこうなるなw
9: 名無しのコロッケ 2024/03/29(金) 10:38:21.85 ID:C8bqX
黒人に犯罪者が多いだけだろ
12: 名無しのコロッケ 2024/03/29(金) 10:42:14.36 ID:1aVHi
肌の色を属性情報として入力してるのが誤りだわな
13: 名無しのコロッケ 2024/03/29(金) 10:47:12.72 ID:1HjZk
AIには人種を隠しておいたら良さそう
14: 名無しのコロッケ 2024/03/29(金) 10:48:17.57 ID:hOHIV
人間の判断の集合体学習させたAI判断を恣意的に歪めたらそれはそれで問題だろ。現状の裁判と違ってしまう
15: 名無しのコロッケ 2024/03/29(金) 10:49:29.34 ID:hOHIV
恣意的変更が許されるなら、変更するやつが裁いてしまうことになる
17: 名無しのコロッケ 2024/03/29(金) 10:51:30.78 ID:ORd8j
そもそもAI裁判でいいなら人種と顔を入力する意味がわからん。
18: 名無しのコロッケ 2024/03/29(金) 10:52:29.26 ID:bKWGB
AIは知能の根幹が既存メディア情報と統計情報なので、人種差別の現実に即した判断をする、たとえば大阪は頭がおかしいとか
19: 名無しのコロッケ 2024/03/29(金) 10:57:05.88 ID:8X5eI
何で判断してるんだろ?黒人と入力してるのか色なのか名前なのか
ハーフやクォーターなどのミックスはどう判断されるんだろうね
20: 名無しのコロッケ 2024/03/29(金) 10:59:04.15 ID:0BNjV
AIにも恨まれるクロンボw
23: 名無しのコロッケ 2024/03/29(金) 11:06:07.84 ID:TvHFL
AIなんて言ってるけど情報収集元は人間なのでね
AIに過度の期待をしすぎ
処理能力以外はどこまでいっても人間の劣化だよ
25: 名無しのコロッケ 2024/03/29(金) 11:15:05.46 ID:gAmXq
凶悪犯罪者は黒人が多いだけじゃね?
26: 名無しのコロッケ 2024/03/29(金) 11:16:30.09 ID:bKWGB
労働価値説とか資本家による搾取とか階級差別とかのキーワードで我々は「こいつ共産主義に染まったやつか」と推論するだろ?
珍奇な流行り言葉、すげぇとかめっちゃとか、なくね?とかやっべーとかの若者低脳言葉がたくさん出て来る人ほど知能が低くガラが悪いと我々は推論して、こいつ危険度高いと判定する
それと全く同じようにAIも推論と判定を行う
27: 名無しのコロッケ 2024/03/29(金) 11:17:42.93 ID:CSh2a
入力項目に黒人とか無くせば良いじゃん
した事に公平に判断させれば良いだけ
28: 名無しのコロッケ 2024/03/29(金) 11:20:16.92 ID:bKWGB
>>27
じゃあ犯罪の社会的背景は考慮しなくていいということになるけど?
123: 名無しのコロッケ 2024/03/30(土) 13:29:57.52 ID:yG4z3
>>27
こいつらの目的は黒人と入力すれば何しても無条件で無罪になるようプログラムの変更を求めてるんだよ
29: 名無しのコロッケ 2024/03/29(金) 11:25:01.48 ID:NrsmO
逆だろ
死刑宣告される犯罪を黒人は犯しがち
30: 名無しのコロッケ 2024/03/29(金) 11:27:23.72 ID:gfNqs
現実結果が出ただけ
いかに人類が現実を妄想で捻じ曲げて混乱しているかという事
31: 名無しのコロッケ 2024/03/29(金) 11:29:31.77 ID:bKWGB
大金道の息子が万引きがどんなものか体験してみたいと「万引きしてみた」
親兄弟に犯罪歴があり殺されたりもしている黒人貧困家庭の息子が万引きした
上級国民の子供と低所得下級国民の子供が殴り合いをした
人間は当然色々情報処理をして善悪と重要度を判断するよね
AIも同じ
33: 名無しのコロッケ 2024/03/29(金) 11:38:50.99 ID:GDqdT
なんで罪を裁くのに肌の色の入力が必要なの?
35: 名無しのコロッケ 2024/03/29(金) 11:47:19.29 ID:23KJh
AIの学習が足りないんだ
白人優先主義を止めることだな
53: 名無しのコロッケ 2024/03/29(金) 12:18:13.93 ID:tMPFk
>>35
学べば学ぶほど白人礼賛になるかと
他の文化を破壊して他民族を自分達に同化させてきた
彼らが自らを神の子と自負しているなら、神の子への裁きに不利に働く学習教材などAIに与えないでしょう
36: 名無しのコロッケ 2024/03/29(金) 11:49:12.61 ID:8xnVO
データバイアスやデータの生成過程を確率変数としてその分散や偏りをその大本と比較参照して原因を究明するってのはやってるがそこは人間じゃないとわからんもんな
AIってかPCは単純な計算を数こなせるがそこから構築された複雑なモデルは単なるトートロジーになる(可能性の話)ってのは人間が判断しなきゃならん所だし(単純モデルの評価ならGoogleが開発してるが)機械学習にしてもPD、PFI、ICE、SHAP等まだ人間が世話しなきゃ何も説明できないbabyだから少なくともGIGOの概念は常に心に留めておくしかない
96: 名無しのコロッケ 2024/03/29(金) 22:15:50.74 ID:8xnVO
>>85
これはそう言う話ではない
そもそもF(x)から生成されたf(x)のアルゴリズムを理解できてる人間は殆どいないと言うのが現場の共通認識になっている
その為>>36に書いたような解釈する技術が多数開発されている
この話もトレーニングデータを介して生成されたアルゴリズムがテストデータ又はこれから生成される現実のデータに対しどの程度の再現性があるのか、と言う問題と共に現実社会の歪みの認識及び改善にAIがどの程度有意なのかを人間側が測定できるのか、と言う観点からの問題提起になっている
38: 名無しのコロッケ 2024/03/29(金) 11:50:33.74 ID:om56w
反省しない黒人犯罪者が余りにも多いから仕方が無い
39: 名無しのコロッケ 2024/03/29(金) 11:50:48.60 ID:om56w
結果だけ見ても本質から外れているから黒人関係・女性関係はどうしようも無い
40: 名無しのコロッケ 2024/03/29(金) 11:53:59.47 ID:nGFSH
コロナ禍の時、くしゃみした時のシミュレーションなんてのもスパコンの計算結果だから正しいのは正しいが
そこへ入力する人間の思惑で結果に大きな違いが出ても不思議じゃないんだよな
AIは学習という部分で、人間が入力してなさそうな雰囲気は出してるけど
42: 名無しのコロッケ 2024/03/29(金) 11:54:42.45 ID:LTe1x
過去の歴史は学ぶが改善策が全く無いから結論学ばない
44: 名無しのコロッケ 2024/03/29(金) 11:55:07.28 ID:euylE
過去のデータの結果でしかないよな
45: 名無しのコロッケ 2024/03/29(金) 12:00:13.41 ID:rEUXh
凶暴性を分かってるって事だな
47: 名無しのコロッケ 2024/03/29(金) 12:10:40.85 ID:gAmXq
記事読むと野蛮な言葉遣いをしてる奴を重刑に処す傾向があるって話らしい
ごくごく当たり前の内容じゃないか
64: 名無しのコロッケ 2024/03/29(金) 13:24:16.41 ID:nGFSH
>>47
AI裁判官になったら、とりあえず綺麗な言葉を使っていれば減刑の可能性が高いわけか
犯罪者向けの対策マニュアルとか売れそう。あと日本であれば坊主にするなんてのは効果的だねw
48: 名無しのコロッケ 2024/03/29(金) 12:12:36.63 ID:kjlSq
それが人間が歩んできた道なんやな
AIはちゃんと昔を学んでるね
49: 名無しのコロッケ 2024/03/29(金) 12:14:46.97 ID:RkBk9
まあAIが差別してる訳じゃなく人間のやったことの学習の成果だからな
50: 名無しのコロッケ 2024/03/29(金) 12:15:00.32 ID:UYaTu
そもそも被告人のデータ打ち込むときに人種を入れなければいいだけでは?
51: 名無しのコロッケ 2024/03/29(金) 12:15:10.62 ID:k5jx2
AIは積分の接点導きだしてるだけなんだから
過去の事例の近似値を返してるだけだぞ
高校数学でやっただろ。あれだよ。
52: 名無しのコロッケ 2024/03/29(金) 12:15:11.21 ID:u8twq
学習データを作るにも全く恣意的な要素のないデータなんて作れんしな
元々AI自体が人間が判断するよりマシってぐらいなもんで、万能性を求めるのはどうかと
54: 名無しのコロッケ 2024/03/29(金) 12:21:17.49 ID:CTjuN
絶対そうなるように学習させてね?
55: 名無しのコロッケ 2024/03/29(金) 12:26:15.36 ID:1kYiu
人間裁判官が黒人優遇してるだけだろ
56: 名無しのコロッケ 2024/03/29(金) 12:30:25.90 ID:0GnXF
AIに黒人優遇を教育する必要が有る
60: 名無しのコロッケ 2024/03/29(金) 12:41:58.60 ID:fdYA6
アメリカで殺人事件を起こすのは8割方黒人だからだろ
63: 名無しのコロッケ 2024/03/29(金) 13:10:56.88 ID:y6oHU
BLMにさえ差別されてるアジアンはどうなのかな?
66: 名無しのコロッケ 2024/03/29(金) 13:45:10.18 ID:iwa3V
だって、AIは白人が手塩にかけて育ててるんだからな
67: 名無しのコロッケ 2024/03/29(金) 14:01:46.13 ID:HnTmu
ガチに統計とったら黒人の犯罪が多いんだろうな
AIが反応するなら、そうゆう事情しかない
68: 名無しのコロッケ 2024/03/29(金) 14:09:50.52 ID:C3Mr5
ルッキズムだな
69: 名無しのコロッケ 2024/03/29(金) 14:10:36.92 ID:cRm0P
田舎にアフリカ人の人が1人仕事に来てて小学生が無邪気に
どうして黒いの?って質問してたのを思い出す
70: 名無しのコロッケ 2024/03/29(金) 14:25:07.11 ID:pmA2R
>>69
オニャンコポンがアルミンにそれを聞かれて多様性を説いてたな
色んな奴がいた方が面白い
72: 名無しのコロッケ 2024/03/29(金) 14:33:36.63 ID:XYhyK
73: 名無しのコロッケ 2024/03/29(金) 14:36:54.02 ID:vsVOv
それだけ黒人の凶悪犯罪が多いという証拠ではないのか?
AIが人種差別などしないだろ
76: 名無しのコロッケ 2024/03/29(金) 14:56:14.56 ID:uOhs2
つーかAIのアルゴリズム的に
ユダヤ人
白人
アメリカ黒人
ーキリスト教徒の壁ー
その他黒人
アジア人
イスラム教徒
とかになってそう
105: 名無しのコロッケ 2024/03/30(土) 08:06:57.67 ID:4uhG0
>>76
ユダヤ人だけ何故か死刑の対象から外れてるんじゃね?
77: 名無しのコロッケ 2024/03/29(金) 16:00:39.22 ID:g7Lrt
事件の内容そのものに重点あててればそんな事にならない
78: 名無しのコロッケ 2024/03/29(金) 16:06:49.51 ID:GQVEI
過去の多くの例からしてAIが客観的に判断してるんだから
その偏見は「正しい」言うこと
81: 名無しのコロッケ 2024/03/29(金) 16:13:46.83 ID:luyfW
AI裁判官に与える情報に「人種」を入れなきゃいいだけの話では??
82: 名無しのコロッケ 2024/03/29(金) 16:15:48.31 ID:dExFj
黒人はすぐ文句言いがち
83: 名無しのコロッケ 2024/03/29(金) 17:20:37.91 ID:NH09g
思惑通りというかネガティヴなデータしか出てこないから半分嵌められてるようなもの
84: 名無しのコロッケ 2024/03/29(金) 17:31:20.69 ID:uhRvB
AIあるある早く言いたいよ~ってかw RGが言ったら炎上するな
85: 名無しのコロッケ 2024/03/29(金) 17:48:06.35 ID:WZVDY
ベースを作ってるのは白人だから、AIなんな人がいくらでも、手を加えれる、AIを絶対と見なすのは大変危険なことだろ所詮人間が作ったものなんだから
86: 名無しのコロッケ 2024/03/29(金) 18:01:23.03 ID:lKp71
今のAIはネット界隈の平均を取ってくるだけだからってことだからな。
88: 名無しのコロッケ 2024/03/29(金) 19:18:52.72 ID:nwCip
これはAIが正しい
人間がそうやって色眼鏡で見るからおかしいってなる
89: 名無しのコロッケ 2024/03/29(金) 19:26:33.51 ID:MF8oQ
“傾向”だろ?
そんなもん日本でも男女ですんげー格差付けてくるじゃん
116: 名無しのコロッケ 2024/03/30(土) 12:05:46.50 ID:xfEfJ
>>89
日本だと女性に過剰に甘い司法と罰則だからな
日本の司法は根本的に国民差別が有る中世司法だ
90: 名無しのコロッケ 2024/03/29(金) 19:46:36.37 ID:gRP5u
犯罪者に黒人が多い、を黒人は犯罪者が多いに学習したのか?
91: 名無しのコロッケ 2024/03/29(金) 19:49:43.05 ID:PV9EW
イスラムAIを造ろう
面白いぞ
92: 名無しのコロッケ 2024/03/29(金) 20:19:37.68 ID:WZVDY
>>91
面白そうだな
94: 名無しのコロッケ 2024/03/29(金) 20:42:59.29 ID:vIYWD
AIの学習元ってネット傍受なんだから、そりゃそうだろうとしか
99: 名無しのコロッケ 2024/03/30(土) 01:46:12.83 ID:nQjXy
それがビッグデータの総意ということでしょう
そしてそれは正しいのだ
100: 名無しのコロッケ 2024/03/30(土) 02:01:01.02 ID:wKGOW
分からんな
被告が黒人という情報をAIに与えてるのか?人種による偏りがあるのであればAIにその情報を与えなければよいのでは
それでも黒人の率が多いのであればそれは単に黒人のほうが凶悪な犯罪が多かったと言うだけだろ
101: 名無しのコロッケ 2024/03/30(土) 03:45:26.03 ID:QhhbG
逆に今の裁判が黒人に甘く不公平ってことだろ
102: 名無しのコロッケ 2024/03/30(土) 04:38:08.62 ID:Vaw2j
肌の濃淡のデータでも入ったのか
106: 名無しのコロッケ 2024/03/30(土) 08:12:36.73 ID:3G1Zj
学習したものだからな
ていうか人種のデータは入れる必要ないだろ
107: 名無しのコロッケ 2024/03/30(土) 08:17:36.62 ID:xXyKf
公平性を問いたいのだから仕方がない
109: 名無しのコロッケ 2024/03/30(土) 08:45:48.15 ID:nujU6
そのうち大統領もAIになるんじゃね
110: 名無しのコロッケ 2024/03/30(土) 09:11:23.49 ID:2E32o
AI「俺の判決はニガーいぜ!」
111: 名無しのコロッケ 2024/03/30(土) 09:17:54.70 ID:9SdQ0
AIなんかやろうと思えば、いくらでも手を加えれるだろ、所詮人間の産物なんだし、そんなAIに全ての判断を委ねるのはとても危険なことだと思うね
113: 名無しのコロッケ 2024/03/30(土) 10:34:44.92 ID:EZsjO
統計的に「違い」があるならAIは「適切」に判断するさ
「AIに判断」させれば女性差別も学歴差別も、それどころか、身長や顔の良し悪しとかも
119: 名無しのコロッケ 2024/03/30(土) 12:13:20.04 ID:xfEfJ
>>113
私が生まれた時は既に女性優遇だらけだったがな
女性が差別されていた時代なんてあったか?
権力者や上級が私物化して囲っていた事をフェミニストが女性差別だと主張しているだけで
114: 名無しのコロッケ 2024/03/30(土) 11:08:44.08 ID:vmKfk
統計の結果に過ぎないんじゃないのかね。
そもそも「差別」というのは別に悪いことじゃないんだよ。健全な社会とは悪を徹底的に差別することによって実現できるものだからね。人権とは守り合うことで初めて成立するのであって人権を守るとは社会から悪を駆除することにほかならない。そのために死刑を宣告することは必要なことなんだよ。
122: 名無しのコロッケ 2024/03/30(土) 13:10:21.31 ID:gChFT
>>114
それを区別という
121: 名無しのコロッケ 2024/03/30(土) 12:16:13.53 ID:xfEfJ
BLMを見ればそうなるわ
124: 名無しのコロッケ 2024/03/30(土) 14:42:24.07 ID:W9fEi
学習元を人間の行動でなくすればいいのでは
125: 名無しのコロッケ 2024/03/30(土) 15:23:36.95 ID:jlYav
普通に治安を考えたら犯罪多いやつなんて消すべきだもんな
126: 名無しのコロッケ 2024/03/30(土) 20:54:39.92 ID:dzyM9
精神障害者なら死刑はいい 万引きでもスピード違反でも
127: 名無しのコロッケ 2024/03/31(日) 06:52:22.18 ID:TPvkI
そのうち記憶を遡られて速度違反でも常習性を問われて死刑宣告されるようになるだろうさ
元スレ: 「AI裁判官」は黒人に死刑を宣告しがち…AIの差別・偏見問題の解決の難しさが浮き彫りに
コメント