09. PREPARING CHILDREN TO BE CONSCIENTIOUS CONSUMERS AND DESIGNERS OF AI TECHNOLOGIES���<子どもたちが良心的なAI技術の消費者であり設計者であるための準備>
大山哲志郎
児童のほとんどは、YoutubeにAIが使われていることを知らない
トゥイーン(8歳から12歳)の56%がオンラインビデオを毎日見ていると回答し、76%が特にYouTubeを定期的に利用している。
2019年のコモンセンス・メディア・レポート
子どもたちがAIを使えるようになるには、AIを認識し、その仕組みを知り、AIを変えることができるのは自分たちであることを理解する必要があります。
教育上の問題提起
From 181 page
同じグループの生徒たちに、“AIを毎日使っている人は?”と聞いた時の反応から判明したこと。
YouTubeやSnapchatなど、自分たちがお気に入りのテクノロジーのいくつかが、AIシステムによって強化されていることを、生徒たちが知らないことが明らかになりました
これに応えるために目指したカリキュラムのゴール
AIの良心的な消費者�CONSCIENTIOUS CONSUMERS OF ARTIFICIAL INTELLIGENCE
YouTubeのレコメンデーション・システムに対する調査結果の詳細を記事した。
ウォールストリートジャーナルの警鐘
”the recommendation algorithm accounted for 70 percent of watch time on the platform”
YouTube社の戦略
From 182 page
AIの良心的な消費者�人気のある10代のYouTuberが「月食は地球が丸いことの証拠にはならない」をウィルス的に拡散
FLAT EARTH: To The Edge And Back (Official Movie)
Lunar Eclipse Doesn’t Work on Your Globe!
さらに
地球平面説を説明した動画
拡散動画
From 182 page
AIの良心的な消費者(まとめ)�CONSCIENTIOUS CONSUMERS OF ARTIFICIAL INTELLIGENCE
YouTubeは、子どもたちが利用する多くの中のシステムのひとつです。スナップチャット、インスタグラム、Amazonのアレクサ、Google検索なども、子どもたちが日常的に触れているAIです。
これらのシステムは、コンテンツのレコメンドなどの決定を下しますが、
多くの場合、子どもたちはシステムがそのような決定を下す仕組みに気付いていません。
AIが組み込まれたシステムの良心的な消費者を育てるためには、AI教育が不可欠なのです。
From 183 page
AIの未来の倫理的なデザイナーたち�FUTURE ETHICAL DESIGNERS OF ARTIFICIAI INTELLIGENCE
From 183 page
今日の技術者やデザイナーは、自分たちが作成したAIを搭載したシステムが長期的な社会的影響を認識し始めています。大手AI技術企業は、製品が意図したとおりに動かなかったり、誰にでも公平に振る舞えなかったりすると、批判を受けてきました。
AIはとてつもなく大きな効果を発揮しますが、これらの話はテクノロジー・コミュニティの行動を促すものです。
ソフトウェア開発者は、AIシステムの設計と開発において、倫理的な慣行を取り入れる必要があります。
初めてAIを紹介する教室は、その手始めとして最適です。
AIの未来の倫理的なデザイナーたち�AIを紹介する教室は、その手始めとして
From 183-184 page
AIの良心的な消費者であるだけでは十分はなく、AIの倫理的なデザイナーにもならなければなりません。
AI教育が選択科目に組み込まれてきており、AIリテラシーを必須の(原文: core)カリキュラムに組み込むことにも関心が持たれています
AI4K12イニシアチブ
「AI K-12教育のナショナルガイドライン」策定に向けて取り組んでいます。
K-12のAIリテラシー教育は、まだ発展途上ですが、勢いを増しています。
人工知能学会とコンピュータサイエンス教員協会(CSTA)の共同主催
AI4K12イニシアチブ
明日の民主的でAIリテラシーのある市民�TOMORROW’S DEMOCRATIC, AI-LITERATE CITIZENS
From 184 page
犯罪の容疑者を発見するために、警察当局が顔認識技術を使用している例:
肌の色が濃い人の顔を一貫して常に誤認することで知られるこのテクノロジーは、
人種間の不平等をさらに悪化させたり、コミュニティ内の監視を強化する可能性があるとして、多くの人が懸念を表明しています。
2019年6月、マサチューセッツ州サマービルの住民は、市内おいての顔認識技術を一時停止する法案を可決。さらに、シリコンバレー周辺の都市でも、このテクノロジーを禁止し始めている
明日の民主的でAIリテラシーのある市民(まとめ)�TOMORROW’S DEMOCRATIC, AI-LITERATE CITIZENS�
From 185 page
カリキュラムのデザイン�CURRICULUM DESIGN
From 185 page
中学校向けのAIと倫理の実践的なカリキュラムを開発し、試験的に実施し、評価しました。カリキュラムと教師用トレーニングガイドを作成しました。
3つの大目標
3つの原則
カリキュラムのデザイン�倫理とAIに関するトピックの統合的アプローチ
From 185 page
調査によると、ほとんどの大学の機械学習コースでは、倫理の問題をまったく教えていないか、倫理を独自のクラスとして追いやっています。
このようなアプローチには問題があります。
なぜなら、研究によると、倫理を技術的な内容から切り離すと、多くの場合、生徒に倫理を技術的な研究とは無関係であると認識させてしまうからです 。
生徒にとって意味のある身近なシナリオに基づいて、技術的な概念と同じくらい頻繁に倫理の概念を紹介します。例えば、機械がどのように物体の分類を学習するのかを生徒に教える際には、以下を必ず議論するようにします。
カリキュラムのデザイン�あらゆる経済的背景を持つ学生や学校が利用できるデザイン
From 186 page
カリキュラムのデザイン�2019年の夏の中学生を対象にした試験的なワークショップ
From 186 page
ワークショップのオーバービュー
AIとは何か?�WHAT IS ARTIFICIAL INTELLIGENCE?
From 188 page
最初のアクティビティは、生徒たちが日常生活の中でAIシステムを特定できるようにデザインされています。
分かりやすくするために、生徒にAIシステムの3つのコンポーネント (データセット、学習アルゴリズム、予測) を探すよう促します。
以下のような質問をしながら進めています。
当初、生徒たちはAmazonのAlexaや自動運転自動車などのような、AIが組み込まれた例に注目していました。
私たちは、電子メールのスパムフィルターのような、より多くのソフトウェアやWebシステムについて考えるように促しました。
AIとは何か?�WHAT IS ARTIFICIAL INTELLIGENCE?
From 188 page
AIとは何か?�アクティビティ後の振り返り
From 188 page
パンの代わりにバナナを使った「ヘルシー」なピーナツバターとジェリーのサンドイッチなど、どのようなものがあるのかブレインストーミングを行いました。
ヘーゼルナッツスプレッド:パンやクラッカーに塗る塗り物、
スピンクル:食感を加えるために振りかけるカラフルな食材
「最も糖分が多い」という意味だと考え、定番のPB&Jにヘーゼルナッツスプレッド、スピンクル、マシュマロなどを加えました。
「最もアレルギーにやさしい」という意味で、ピーナッツバターを使わないレシピを作りました。
質問
“「ベスト」という言葉を他の言葉に置き換えるとしたら、何を選びますか?”
それぞれの「ベスト」の定義に基づき、自分たちのアルゴリズムが他の仲間と大きく異なる結果をもたらしたことをはっきりと見ることができました。
AIとは何か?�アルゴリズムには、作成者の意見が反映
From 188 page
「アルゴリズムはコードに埋め込まれた見解です。」 by Cathy O’Neil
「関連性」や「ベスト」などの言葉は中立的なものではなく、誰が作るかによってその定義が変わってきます。アルゴリズムには、作成者の意見が反映されています。
AIとは何か?�倫理マトリックス
From 189 page
X軸:価値(味 / 栄養 / コスト)
Y軸:ステークホルダー(子ども、保護者、医者)
PB&Jの倫理マトリックスの記入例
教師あり機械学習とアルゴリズムのバイアス�SUPERVISED MACHINE LEARNING AND ALGORITHMIC BIAS
From 190 page
顔を男性化女性かに分類することを目的とした多くの市販の顔認識アルゴリズムは、肌の色の濃い女性の顔を男性の顔と誤認することが知られています。
これらのアルゴリズムが主に肌の色の薄い男性の顔でトレーニングされているためです。
社会的なバイアスをコード化する履歴データで訓練された分類システムは、それらの同じバイアスを永続させることになります。
教師あり機械学習とアルゴリズムのバイアス�GoogleのTeachable Machinesを使った「プラグド」なアクティビティ
From 191 page
生徒たちは自分たちのシステムが犬よりも猫の方がはるかにうまく機能することにすぐに気付き、犬と猫の間でより公平な結果を得るために、トレーニングデータセットの再作成に取り組んだ。
教師あり機械学習とアルゴリズムのバイアス�GoogleのTeachable Machinesアクティビティの振り返り
From 192 page
自分たちがシステムを改善する立場になったらどうしますか?
すべての肌の色と性別をより代表するデータセットを作成すると答えた。
生徒たちは、単純な犬と猫の分類器と、商用利用の高度な顔認識システムとの間に関連性を見出すことができました。
さらに、議員のメンバーがこうしたテクノロジーの影響に気づいていないことに驚いていました。
学習成果
生徒は、学んだことを振り返って言いました。
「私は今でも顔認識は不公平だと思っています。
YouTubeの再設計�REDESIGNING YOUTUBE
From 193 page
課題:YouTubeのレコメンデーション・アルゴリズムの再設計
YouTubeの再設計�REDESIGNING YOUTUBE
From 193 page
図9.6 YouTube再設計プロジェクトのステークホルダーと価値の組み合わせたヒートマップ。濃い色で大きな図形は、最も頻繁に使用された組み合わせを示している。
X軸:価値: お金 / エンターテイメント / 安全性 / 広告 / 人気度 /
Y軸:ステークホルダー: YouTube社 / 子ども / YouTubers / 広告主 / 視聴者 / 保護者 / 大人 / スポンサー / メディア / 医師
YouTubeの再設計�プロジェクト1:収益の最適化
From 196 page
中学1年生と中学2年生のグループ:YouTubeが収益を最大化するべきだと判断
紙プロトタイプで作った再設計後のYouTube
YouTubeの再設計�プロジェクト2:エンターテイメントの最適化
From 196 page
小学5年生のペア:エンターテイメントを中心にYouTubeの新バージョンを最適化
紙プロトタイプで作った再設計後のYouTube
YouTubeの再設計�プロジェクト3:時間の有効活用の最適化
From 196 page
目標を達成するために役立つAI以外の機能をいくつか挙げた
中学2年生のペア:中毒性の低いYouTube
紙プロトタイプで作ったYouTube
①滞在時間を知らせるポップアップ・ウィンドウ
②“最近、視聴した動画、履歴と費やした時間が表示されるます。”と書かれたポストイット
ソクラテス・セミナー�SOCRATIC SEMINAR
From 199-201 page
YouTubeの子供向けコンテンツに関するウォールストリート・ジャーナルの記事(以下)を生徒たちと一緒に音読した。
連邦取引委員会は、連邦法を遵守するために、すべての子供向けコンテンツを収容する別アプリを作成するよう求めていた。
このソクラテスセミナー形式のディスカッションにより、生徒たちは、
(ディスカッション内容は省略。199-201ページの本文参照)
ワークショップの数カ月後、GoogleとYouTubeは1億7000万ドルと、子ども向けと表示された動画のデータを今後収集しないという合意で訴訟を解決しました。
生徒たちの懸念の一部は訴訟で対処されました。たとえば、YouTube サイトを通して動画にアクセスしながらも、自分にとって成熟しすぎたコンテンツを取得しないという安心感が得られる。
私たちは、生徒たちがこの最近の変化に対する彼らの視点を理解するためのフォローアップすることに関心を持っています。
まとめ
From 201 page
ワークショップを通じて、生徒たちがAIを認識し、その働きを理解することを手助けしました。そしてAIをより公平にデザインするためのツールを生徒たちに提供することができました。AIは複雑なものですが、YouTubeのように、生徒たちがすでに親しんでいるアクティビティやテクノロジーを選びました。
生徒たちがカリキュラムに触れるうちに、彼らの会話が、日常の技術的なツールにおける公正さと公平性をめぐるディスカッションに移行し、より幅広いステークホルダーに共感できることがわかりました。
ワークショップでの1週間を振り返る中で、私たちは、生徒たちがAIとその社会への影響について新たに理解したことで、彼らが使うAI対応テクノロジーに対する主体性(原文:agency)の感じ方が変化していることがわかりました。
”どうして、議会は今日の最新技術を知らないのですか?”と疑問を持つするに至りました。
まとめ
From 201 page
まとめ
From 202 page
結果に関する展望を持ち、考えることを促進しようとする教育上の実践は、産業界のデザイナーやエンジニアがこれらの同じスキルを発揮することを国民から期待につながります。
最後に
From 202 page
このワークショップで使用する教材はbit.ly/mit-ai-ethicsから入手可能です。
アクティビティ名 | 説明 | スタンダード | 時間 |
AIビンゴ | 生徒には、さまざまなAIシステムが書かれたビンゴカードが配られます。生徒たちは、そのAIシステムを使ったことのあるパートナーを見つけ、協力して、システムが行っている予測と使用するデータセットを特定します。 | 1.c, 1.d | 30 分 |
アルゴリズム入門(一般の考えとして) | 生徒たちは、アルゴリズムがレシピのように、インプットを修正してアウトプットを生成する一連の命令であることを学びます。次に、生徒たちは、"ベスト"のピーナッツバターとゼリーのサンドイッチを作るアルゴリズムを書くよう促されます。次に、生徒たちは、に"ベスト"とはどういう意味かを検索し、自分たちの意見がアルゴリズムにどのように反映されるかを調べます。 | 1.b 2.a, 2.c � | 45 分 |
倫理マトリックス | ”アルゴリズム入門”のレッスンを基に、生徒はピーナッツバターとジェリーサンドイッチのアルゴリズムに関心を持つステークホルダーと、ステークホルダーがアルゴリズムに持つ価値を特定します。次に、倫理マトリックスに記入し、それらの価値が重なる所や対立する所を確認します。 | 2.b 3.a, 3.b, 3.c, 3.d 4.a | 45 分 |
教師あり機械学習とアルゴリズム・バイアス入門* | 生徒は、分類の概念について紹介されます。Google Teachable Machineツールを調べることで、生徒は教師あり機械学習について学びます。次に、犬猫の分類器を構築するよう促されますが、知らず知らずのうちに偏ったデータセットが与えられます。分類器が犬よりも猫の方がよく機能する場合、生徒は自分たちの新しいデータセットを使って分類器を再トレーニングする機会を得ます。 | 1.c 2.c | ~ �3 時間 |
APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ
日本語に翻訳したものは、こちらを参照ください。
原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。
アクティビティ名 | 説明 | スタンダード | 時間 |
スペキュレイティブ・フィクション | 生徒たちは、感情検出ソフトウェアやGANなど、さまざまなテクノロジーと触れ合う機会を得ます。次に、生徒は、テクノロジーの影響を受ける可能性のある人や、テクノロジーが将来どのように害を及ぼすか、または利益をもたらすかに関する創作的な作文のプロンプトに対して答えます。このアクティビティはアンプラグドではありませんが、アンプラグドバージョンに向けたインストラクションがオープンソースの教材に含まれています。 | 3.a, 3.b, 3.c 5.a | ~ �3 時間 |
APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ
以下のテクノロジーを使ってみてディスカッションする:
GANPaint Studio: 画像を簡単に加工できるAIペイントツール
http://gandissect.res.ibm.com/ganpaint.html
Talk to Transformer: GPT-3のようなものか
https://talktotransformer.com/
AFFETIVA: 感情検出するAIソフトウェア
https://demo.mr.affectiva.com/
https://www.affectiva.jp/aboutus
DETECT FAKES: フェーク動画やフェーク音声を検知するAI
日本語に翻訳したものは、こちらを参照ください。
原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。
アクティビティ名 | 説明 | スタンダード | 時間 |
YouTube スカベンジャーハント� | AIビンゴと同様に、パートナーである学生は、YouTubeプラットフォーム上のさまざまなAIシステム(広告マッチング・アルゴリズム、レコメンデーション・アルゴリズム、コメントの分類器など)を認識することが課題です。各システムについて、生徒は、アルゴリズムが何を予測しようとしているのか、アルゴリズムが使用しているデータセットが何かを特定します。 | 1.d 2.b | 30 分 |
YouTubeの再設計 | 生徒は、これまでに学んだことを応用して、YouTubeのリコメンデーション・アルゴリズムに関する倫理マトリックスを構築します。この倫理マトリックスに基づいて、生徒たちは自分たちのアルゴリズムの目標(や"意見")を決定します。次に、生徒たちは、この新しいバージョンのYouTubeがどのようなものになるかのプロトタイプを作成し、特定済みのステークホルダーが持つ価値を満たす機能をイメージします。 | 2.b 3.a, 3.b, 3.c, 3.d 4.a, 4.b, 4.c | ~ �4 時間 |
YouTubeソクラテス・セミナー | 生徒たちは、” YouTube Weighs Major Changes to Kids Content Amid FTC Probe(YouTube、FTCの調査を受け、子供向けコンテンツに大幅な変更を検討)」と題されたウォール・ストリート・ジャーナルの記事の要約版を読んだ後、YouTubeキッズアプリの変更案に対する最も重要または影響力のあるステークホルダーは誰かや、自動再生などのテクノロジーは存在すべきかどうかについて話し合うソクラティックセミナーに参加しました。 | 2.b 3.a, 3.b, 3.c 4.c 5.a | 30 分 |
APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ
日本語に翻訳したものは、こちらを参照ください。
原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。