2020年03月30日

「さよならセキュリティ つながり、隔たる、しなやかなセキュリティの世界」

20200330「さよならセキュリティ」.png

大竹 高史 著
インプレス R&D 出版

『セキュリティ』という用語を聞いて何をイメージするかは人によって異なると思いますが、わたしは、この本のタイトルを見て、日々仕事で使っているパソコンがネットワークを介してクラッキングされるリスクを思い浮かべました。

 そのほかに、自分がどんな種類のリスクに日々晒されているのか、これまで認識してこなかったと、この本を読んで知った気がします。

 たとえば、最近話題の AI のセキュリティ面の脆さは、教師データや報酬の誤りにあると説明されています。著者は、AI が行なう『学習』を『教師あり学習』と『強化学習』に分けて説明しています。前者の場合、過去のデータから正解を正解として学び、後者の場合、AI が選んだ結果に対して正解、不正解を『報酬』という形で教えるとしています。

 もし、正解でないデータを正解として教えたり、『報酬』が誤って与えられれば、AI は、誤った判断をするようになります。実例として挙げられているのが Amazon の実証実験で、これは 2014 年に始められ、2017 年に打ち切られました。理由は、過去 10 年分の社員情報を学習していた AI の公平性を証明できなかったからです。実際の社員情報において、圧倒的に男性の情報が多かったから、AI は男性=優秀と判断するようになったというのです。

 AI がどう判断するか、そのアルゴリズムはブラックボックスです。どういうデータの積み重ねが AI の判断を構築したか、明確にすることはできません。そんな AI が入社試験の一次判定をする時代にわたしたちは、公平性を担保しようと自ら動く Amazon のような企業だけが存在することを期待していいのでしょうか。

 テクノロジーの進歩と同時に『セキュリティ』に対する概念も進歩させなければならないと思いました。
posted by 作楽 at 21:00| Comment(0) | 和書(その他) | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]