機械学習に潜む罠。

もう少し文章を書くスピードをあげたいいまがーです、おはようございます。

 

 

 

さて、今日は少しぞっとする話。

というのも、機械学習と呼ばれるものの危険性がそろそろ現実を帯びてきた、という話。実はこの話はかなり以前から指摘されている問題だった。その内容とは、人工知能が反逆を起こす、とか、そういった映画等でよくあるようなたぐいのものではなく、もっと現実に起こりうる内容である。まぁもちろん、そういった可能性も考慮されていて、世界では人工知能の人に対する反逆などが起こらないよう真剣に対策を考える組織なんてのも出来ていたりするのだが。

今日の内容は、以下の記事。

jp.techcrunch.com

人工知能というより機械学習人工知能と呼ばれるものの一種、一端)に偏った内容なのだが、簡潔に言えば、機械学習が人の手による偏りなどが入ったものになっている可能性を考慮しなければいけない、ということ。

どういうことなのか、詳しく話していく。まず、前提として、機械学習というのは、ある程度決まった情報群(昨今よく言われるビッグデータ等)などからパターンを学んでいったり傾向を数値として出していくことにより、より何かの課題の正答に近づこうとするものである。この時、その情報源の指定やその学習方式等は、実はまだまだ人間の手によってある程度精査して作っていかなければいけない。となれば、その情報源などを限定的なものにしてしまったりすると、実はそれは機械の導き出した正答などではなく、その作り手が意図したものになってしまう

分かりやすく例えで言えば、購入者1000人へのアンケートで1位となりました!なんて売っている品物があったとして、それが一度でも買ったことある人に聞いたのか、すでにリピーターとなっている人に聞いたのかでは全く物が変わってくる。しかし、そんなことは表に出ず、購入者1000人へのアンケート、という文句に偽りはないわけだ。

こういったことが機械学習でも起こりうる。機械学習で導き出された答えがこれだから、こうするべき、みたいなものが出てきたとして、それは本当に信用できるのか?ということ。でも、現在の風潮として、機械などで導き出された答えはかなり正確だという意識が強い。それは、コンピューターというものへの信頼からきているのであろう。しかし、そこに人の意思が介在する余地があるのが機械学習。なので、機械学習を行う際にはそこに気を付けて、変な人の主観などが入り込んでいないかなどをきちんと検証しながら開発を行おう、というのが、この記事の内容。

でも、そんなのは開発側だけの問題であり、それこそ性善説である。なので、私の記事を読んだ読者の頭に置いておいてほしいことは、機械学習やAIがなど導き出したものであっても妄信してはいけない」ということ。そんなの分かり切っているという人もいるかもしれないが、それをつい信じてしまいそうになるほど力を持っているのがAI。正しく使えばかなり便利なものになるであろう未来が待ち受けているのだから、それを見誤らないようにしよう。

 

 

 

では、今日はここら辺で。