1 of 35

09. PREPARING CHILDREN TO BE CONSCIENTIOUS CONSUMERS AND DESIGNERS OF AI TECHNOLOGIES���<子どもたちが良心的なAI技術の消費者であり設計者であるための準備>

大山哲志郎

2 of 35

児童のほとんどは、YoutubeにAIが使われていることを知らない

トゥイーン(8歳から12歳)の56%がオンラインビデオを毎日見ていると回答し、76%が特にYouTubeを定期的に利用している。

2019年のコモンセンス・メディア・レポート

子どもたちがAIを使えるようになるには、AIを認識し、その仕組みを知り、AIを変えることができるのは自分たちであることを理解する必要があります。

教育上の問題提起

From 181 page

同じグループの生徒たちに、“AIを毎日使っている人は?”と聞いた時の反応から判明したこと。

YouTubeやSnapchatなど、自分たちがお気に入りのテクノロジーのいくつかが、AIシステムによって強化されていることを、生徒たちが知らないことが明らかになりました

これに応えるために目指したカリキュラムのゴール

  1. 生徒は、AIの良心的な消費者であるべきである。
  2. 生徒は、倫理的なAIデザイナーであるべきである。
  3. 生徒は、AIに関する民主的な議論に参加することができなければならない。

3 of 35

AIの良心的な消費者�CONSCIENTIOUS CONSUMERS OF ARTIFICIAL INTELLIGENCE

YouTubeのレコメンデーション・システムに対する調査結果の詳細を記事した。

  • 過去の視聴履歴のないまったく新しいユーザーにリコメンドされた「おすすめの動画」のスクリーンショットが表示された。
  • 「月食(lunar eclipse)」と検索すると、地球が平らであることを暗にほのめかす動画 (”月食は地球が丸いことの証拠にはならない!“次ページ)が表示
  • 人気のある10代のYouTuberがこうした説を広めると、ウイルス的な陰謀動画が問題になってきている。

ウォールストリートジャーナルの警鐘

  • ユーザーが過去に視聴した内容に基づいて動画をレコメンドすることで、YouTubeはユーザーがより長くサイトに滞在することを望んでいます。
  • 視聴者がコンテンツを長く見れば見るほど、広告が売れるようになります。
  • YouTubeのチーフ・プロダクトオフィサーの報告によると、“レコメンデーション・アルゴリズムによる視聴が、プラットフォームでの視聴時間の70パーセントを占めている”

”the recommendation algorithm accounted for 70 percent of watch time on the platform”

YouTube社の戦略

From 182 page

4 of 35

AIの良心的な消費者人気のある10代のYouTuberが「月食は地球が丸いことの証拠にはならない」をウィルス的に拡散

FLAT EARTH: To The Edge And Back (Official Movie)

Lunar Eclipse Doesn’t Work on Your Globe!

さらに

地球平面説を説明した動画

拡散動画

From 182 page

5 of 35

AIの良心的な消費者(まとめ)�CONSCIENTIOUS CONSUMERS OF ARTIFICIAL INTELLIGENCE

YouTubeは、子どもたちが利用する多くの中のシステムのひとつです。スナップチャット、インスタグラム、Amazonのアレクサ、Google検索なども、子どもたちが日常的に触れているAIです。

これらのシステムは、コンテンツのレコメンドなどの決定を下しますが、

多くの場合、子どもたちはシステムがそのような決定を下す仕組みに気付いていません。

AIが組み込まれたシステムの良心的な消費者を育てるためには、AI教育が不可欠なのです。

From 183 page

6 of 35

AIの未来の倫理的なデザイナーたち�FUTURE ETHICAL DESIGNERS OF ARTIFICIAI INTELLIGENCE

From 183 page

今日の技術者やデザイナーは、自分たちが作成したAIを搭載したシステムが長期的な社会的影響を認識し始めています。大手AI技術企業は、製品が意図したとおりに動かなかったり、誰にでも公平に振る舞えなかったりすると、批判を受けてきました。

  • Amazonの顔認識技術は、肌の色が濃いマイノリティに対して高いエラー率を示すことが明らかになってきています(Vincent 2019)。
  • Uberの自動運転車は、信号無視をした歩行者への配慮を怠っていました(Marshall and Davies 2019)。
  • Googleは、有害な固定観念を恒久化する検索アルゴリズムで避難されています(Manjoo 2018)。

AIはとてつもなく大きな効果を発揮しますが、これらの話はテクノロジー・コミュニティの行動を促すものです。

ソフトウェア開発者は、AIシステムの設計と開発において、倫理的な慣行を取り入れる必要があります。

初めてAIを紹介する教室は、その手始めとして最適です。

7 of 35

AIの未来の倫理的なデザイナーたち�AIを紹介する教室は、その手始めとして

From 183-184 page

AIの良心的な消費者であるだけでは十分はなく、AIの倫理的なデザイナーにもならなければなりません。

  • コンピューテーショナル・シンキング(CT)がK-12教育に取り入れられ始めているとしたら、AIについての学ぶのはどうでしょうか?
  • 5年生から8年生の生徒たちは、AIシステムについて学び、自分たちでデザインする予定です。

AI教育が選択科目に組み込まれてきており、AIリテラシーを必須の(原文: core)カリキュラムに組み込むことにも関心が持たれています

  • 従来型のSTEMプログラムでは、AIコースやReadyAIのような新しいプログラムを提供し始めている
  • Technovationはこのようなコンテンツが生まれるための新しい場を作り出している

AI4K12イニシアチブ

「AI K-12教育のナショナルガイドライン」策定に向けて取り組んでいます。

K-12のAIリテラシー教育は、まだ発展途上ですが、勢いを増しています。

人工知能学会とコンピュータサイエンス教員協会(CSTA)の共同主催

8 of 35

AI4K12イニシアチブ

9 of 35

明日の民主的でAIリテラシーのある市民�TOMORROW’S DEMOCRATIC, AI-LITERATE CITIZENS

From 184 page

  • 将来、技術者にならないであろう生徒でさえ、AIの責任あるユーザーであり、良心的な消費者であるべきです。
  • AIは私たちのコミュニティー(市民社会)にも入り込んできており、市民はその利用について十分な情報を得た上で判断を下せるようにならなければなりません

犯罪の容疑者を発見するために、警察当局が顔認識技術を使用している例:

肌の色が濃い人の顔を一貫して常に誤認することで知られるこのテクノロジーは、

人種間の不平等をさらに悪化させたり、コミュニティ内の監視を強化する可能性があるとして、多くの人が懸念を表明しています。

2019年6月、マサチューセッツ州サマービルの住民は、市内おいての顔認識技術を一時停止する法案を可決。さらに、シリコンバレー周辺の都市でも、このテクノロジーを禁止し始めている

10 of 35

明日の民主的でAIリテラシーのある市民(まとめ)�TOMORROW’S DEMOCRATIC, AI-LITERATE CITIZENS

From 185 page

  • AIが私たちの都市に入り込み、都市を変化させ続けているため、若い人たちがこうした民主的なプロセスの取り扱いに十分備えられるよう育成することが重要です。

  • サマービルの住民と同じように、私たちは、学生たちに自分たちのコミュニティで十分な情報を得た上で意思決定ができるような知識とスキルを身につけてほしいと願っています。

11 of 35

カリキュラムのデザイン�CURRICULUM DESIGN

From 185 page

中学校向けのAIと倫理の実践的なカリキュラムを開発し、試験的に実施し、評価しました。カリキュラムと教師用トレーニングガイドを作成しました。

  1. AIを搭載した自分のデバイスを使用する際に、良心的な消費者となる方法を若者に教えること
  2. AIテクノロジーに関する民主的な議論に参加できるよう、生徒に知識と展望を与えること
  3. 学生が自らAIシステムを構築する際に、倫理的なデザイナーとなるよう力をつけさせたい
  1. 倫理教育はテクニカルな教育と一緒に統合されるべきであるという考え
  2. テクノロジーを使ったアクティビティの補足として、"アンプラグド"なアクティビティにも価値がある
  3. 創造的な学習の機会を伴ったピア・コラボレーションとディスカッションに価値がある

3つの大目標

3つの原則

12 of 35

カリキュラムのデザイン�倫理とAIに関するトピックの統合的アプローチ

From 185 page

調査によると、ほとんどの大学の機械学習コースでは、倫理の問題をまったく教えていないか、倫理を独自のクラスとして追いやっています。

このようなアプローチには問題があります。

なぜなら、研究によると、倫理を技術的な内容から切り離すと、多くの場合、生徒に倫理を技術的な研究とは無関係であると認識させてしまうからです 。

生徒にとって意味のある身近なシナリオに基づいて、技術的な概念と同じくらい頻繁に倫理の概念を紹介します。例えば、機械がどのように物体の分類を学習するのかを生徒に教える際には、以下を必ず議論するようにします。

  • 分類器がどのようにバイアスを内包する可能性があるのかや、
  • 警察における顔認識技術の利用のような重要な意思決定にAIシステムが使われた場合に社会に起こりうる重大性

13 of 35

カリキュラムのデザイン�あらゆる経済的背景を持つ学生や学校が利用できるデザイン

From 186 page

  • 大部分が鉛筆と紙のみで行うアンプラグド・アクティビティ
    • 運動感覚や創造性の高いアクティビティを遊び感覚で楽しめるようデザイン
    • 教師がファシリテーターとして行動する構成主義的アプローチに従っている
    • 講義の代わりに、中学生が慣れ親しんだ YouTubeなどのトピックを利用して、教室でのディスカッションを形成できるようにしている
  • Chromeウェブブラウザへのアクセスが必要なレッスンは2つのみ
  • 非営利目的であれば利用可能(CC-BY-NC)なオープンソースとして公開

14 of 35

カリキュラムのデザイン�2019年の夏の中学生を対象にした試験的なワークショップ

From 186 page

ワークショップのオーバービュー

  • 28人の中学生(うち8人の女子生徒)
  • 2つのプラグドと、6つのアンプラグドのアクティビティから構成
  • 生徒たちは、5年生から7年生と7年生から9年生の2つのグループに分けた
  • 各グループにはメンターがひとり
  • 3つの異なるモジュールに焦点を当てた

15 of 35

AIとは何か?�WHAT IS ARTIFICIAL INTELLIGENCE?

From 188 page

最初のアクティビティは、生徒たちが日常生活の中でAIシステムを特定できるようにデザインされています。

分かりやすくするために、生徒にAIシステムの3つのコンポーネント (データセット、学習アルゴリズム、予測) を探すよう促します。

以下のような質問をしながら進めています。

  1. 皆さんのシステムは何かを予測しようとしていますか? そうなら、それは何ですか?
  2. 皆さんのシステムは、どのようなデータを使って、予測するのでしょうか?

当初、生徒たちはAmazonのAlexaや自動運転自動車などのような、AIが組み込まれた例に注目していました。

私たちは、電子メールのスパムフィルターのような、より多くのソフトウェアやWebシステムについて考えるように促しました。

16 of 35

AIとは何か?�WHAT IS ARTIFICIAL INTELLIGENCE?

From 188 page

  • 生徒たちがAIシステムのパーツを特定できるようになったところで、アルゴリズム自体と、具体的な目標をどのように設定するかについてのより詳細な説明に進めました。
  • 生徒たちは、レシピのように、多くの具体的な手順によって、指定された入力が変換され、目的の結果を達成するように作られたアルゴリズムについて学びます。
  • コンピュータサイエンスの入門コースでは、有用なアルゴリズムの作成に必要な特異性を学ぶ方法として、ピーナッツバターとジェリーサンドイッチを作る手順を書かせるのが一般的です。
  • 私たちは生徒たちにも同じ演習をさせましたが、いつものPB&J(訳注:ピーナツバターとジェリーのサンドイッチの略)の手順を書くのではなく、パートナーを見つけてベストなPB&Jの手順を書かせました。

17 of 35

AIとは何か?�アクティビティ後の振り返り

From 188 page

パンの代わりにバナナを使った「ヘルシー」なピーナツバターとジェリーのサンドイッチなど、どのようなものがあるのかブレインストーミングを行いました。

ヘーゼルナッツスプレッド:パンやクラッカーに塗る塗り物、

スピンクル:食感を加えるために振りかけるカラフルな食材

「最も糖分が多い」という意味だと考え、定番のPB&Jにヘーゼルナッツスプレッド、スピンクル、マシュマロなどを加えました。

「最もアレルギーにやさしい」という意味で、ピーナッツバターを使わないレシピを作りました。

質問

“「ベスト」という言葉を他の言葉に置き換えるとしたら、何を選びますか?”

それぞれの「ベスト」の定義に基づき、自分たちのアルゴリズムが他の仲間と大きく異なる結果をもたらしたことをはっきりと見ることができました。

18 of 35

AIとは何か?�アルゴリズムには、作成者の意見が反映

From 188 page

「アルゴリズムはコードに埋め込まれた見解です。」 by Cathy O’Neil

  • 市販の製品で使用されるAIと機械学習アルゴリズムは、作成者に基づいてさまざまな目的に合わせて最適化されています。
  • 実際、それらは私たちが考えているほど客観的ではありません。
  • アルゴリズムが最適化を試みるということは、何を優先させるべきかという意見をコード化することです。

「関連性」や「ベスト」などの言葉は中立的なものではなく、誰が作るかによってその定義が変わってきます。アルゴリズムには、作成者の意見が反映されています。

19 of 35

AIとは何か?倫理マトリックス

From 189 page

  1. PB&Jサンドイッチのさまざまなステークホルダーと価値についてブレインストーミングを行い、さまざまなサイズの倫理的マトリックスを作成する演習をしました。
  2. 味、健康、コスト、効率などの価値と一緒に子ども、保護者、医者、スーパーマーケットなどのステークホルダーを特定しました。
  3. ステークホルダーと価値のすべてのペアを比較して、どのステークホルダーがさまざまな価値に関心を持っているかを決定しました。
  4. マトリクス作成後、ステークホルダーと価値がどのように関連しているかを振り返って、どの価値を最適化すべきかを決めてもらいました。
  5. 彼らは、彼らが説明した特定のステークホルダーと価値観に応じて、さまざまな結果が得られることに気付きました。
  6. 例えば、保護者、医者、歯科医などのステークホルダーのマトリックスは、子ども、ティーンエイジャー、スーパーマーケットのマトリックスよりも健康を重視する可能性があります。

X軸:価値(味 / 栄養 / コスト)

Y軸:ステークホルダー(子ども、保護者、医者)

PB&Jの倫理マトリックスの記入例

20 of 35

教師あり機械学習とアルゴリズムのバイアスSUPERVISED MACHINE LEARNING AND ALGORITHMIC BIAS

From 190 page

  • 教師あり機械学習は、ラベル付けされたデータポイントのサンプルを示すことで、パターンを発見します。
  • 教師あり機械学習システム(顔認識から雇用のアルゴリズム、広告のアルゴリズムまで)の多くが、マイノリティ・グループのメンバーに対して、より悪い結果を予測するようになっていることが示されています。このような現象を「アルゴリズム・バイアス」と呼びます。

顔を男性化女性かに分類することを目的とした多くの市販の顔認識アルゴリズムは、肌の色の濃い女性の顔を男性の顔と誤認することが知られています。

これらのアルゴリズムが主に肌の色の薄い男性の顔でトレーニングされているためです。

社会的なバイアスをコード化する履歴データで訓練された分類システムは、それらの同じバイアスを永続させることになります。

21 of 35

教師あり機械学習とアルゴリズムのバイアス�GoogleのTeachable Machinesを使った「プラグド」なアクティビティ

From 191 page

  • ニューラルネットワークがどのように訓練され、どのように動き、どのようにアルゴリズム・バイアスにつながるかをデモンストレーションするために、GoogleのTeachable Machinesというプラットフォームを利用
  • Teachable Machinesには、生徒たちに写真や音声を撮影/アップロードしてディープラーニング(原文:deep neural net)型の分類器の訓練を体験させることができる
  • 用意された猫と犬の画像のトレーニングセット(バイアスを仕込んだもの)を使って分類器を作成
  • 犬よりも猫の画像が多く含まれており、猫の画像は犬の画像よりも多くの種類の品種が含まれていました。

生徒たちは自分たちのシステムが犬よりも猫の方がはるかにうまく機能することにすぐに気付き、犬と猫の間でより公平な結果を得るために、トレーニングデータセットの再作成に取り組んだ

22 of 35

教師あり機械学習とアルゴリズムのバイアス�GoogleのTeachable Machinesアクティビティの振り返り

From 192 page

  • 顔認識システムにおけるアルゴリズム・バイアスに関するビデオ を見せた。
  • このビデオは多くの顔認識システムは色白の肌や男性の顔でうまく働き、肌の色が濃い女性の顔では特にうまく働かないことを説明している。

自分たちがシステムを改善する立場になったらどうしますか?

すべての肌の色と性別をより代表するデータセットを作成すると答えた。

生徒たちは、単純な犬と猫の分類器と、商用利用の高度な顔認識システムとの間に関連性を見出すことができました。

さらに、議員のメンバーがこうしたテクノロジーの影響に気づいていないことに驚いていました。

学習成果

生徒は、学んだことを振り返って言いました。

「私は今でも顔認識は不公平だと思っています。

23 of 35

YouTubeの再設計REDESIGNING YOUTUBE

From 193 page

  1. ペアになってYouTubeのレコメンデーション・アルゴリズムに投資しているステークホルダーと、ステークホルダーが抱いている価値を特定した。
  2. 自分たち自身のシステムデザインのために倫理マトリックスを作成した。
  3. 生徒同士で話し合って、新しいシステムの目標の特定と、その目標の理論的根拠を導き出した。

課題:YouTubeのレコメンデーション・アルゴリズムの再設計

24 of 35

YouTubeの再設計REDESIGNING YOUTUBE

From 193 page

図9.6 YouTube再設計プロジェクトのステークホルダーと価値の組み合わせたヒートマップ。濃い色で大きな図形は、最も頻繁に使用された組み合わせを示している。

X軸:価値: お金 / エンターテイメント / 安全性 / 広告 / 人気度 /

Y軸:ステークホルダー: YouTube社 / 子ども / YouTubers / 広告主 / 視聴者 / 保護者 / 大人 / スポンサー / メディア / 医師

25 of 35

YouTubeの再設計プロジェクト1:収益の最適化

From 196 page

  1. 収益、動画の品質、レコメンデーション、適切性という価値を持ったYouTube社、YouTuber、視聴者、広告主をステークホルダーとして特定
  2. 目標は、「YouTube社とYouTuberの収益をサイトと動画の品質向上に使用できる」とした
  3. サイドバーに広告が追加される機能や、動画中の広告をスキップできなくする機能を備えた

中学1年生と中学2年生のグループ:YouTubeが収益を最大化するべきだと判断

紙プロトタイプで作った再設計後のYouTube

26 of 35

YouTubeの再設計プロジェクト2:エンターテイメントの最適化

From 196 page

  1. お金、教育、良いコンテンツ、楽しさという価値を持ったYouTube社、子ども、親、広告主をステークホルダーとして特定
  2. 目標は、「"楽しむこと」とした
  3. ”悪口のないクリーンなコンテンツや動画を私たちに提供するように学習させる。
  4. 悪口や不適切なコンテンツが無いようにするためにチャイルド・セーフティ・モードを搭載

小学5年生のペア:エンターテイメントを中心にYouTubeの新バージョンを最適化

紙プロトタイプで作った再設計後のYouTube

27 of 35

YouTubeの再設計プロジェクト3:時間の有効活用の最適化

From 196 page

目標を達成するために役立つAI以外の機能をいくつか挙げた

  1. 1時間使用すると画面がポップアップする機能
  2. 時間制限を設定できる機能

中学2年生のペア中毒性の低いYouTube

紙プロトタイプで作ったYouTube

①滞在時間を知らせるポップアップ・ウィンドウ

②“最近、視聴した動画、履歴と費やした時間が表示されるます。”と書かれたポストイット

28 of 35

ソクラテス・セミナー�SOCRATIC SEMINAR

From 199-201 page

YouTubeの子供向けコンテンツに関するウォールストリート・ジャーナルの記事(以下)を生徒たちと一緒に音読した。

連邦取引委員会は、連邦法を遵守するために、すべての子供向けコンテンツを収容する別アプリを作成するよう求めていた。

このソクラテスセミナー形式のディスカッションにより、生徒たちは、

  • これまで学んだことを具体的でタイムリー、かつ親近感のある社会問題に適用することができました。
  • 自動再生機能の仕組み、YouTubeに関連するステークホルダーとその価値観の特定方法、そしてステークホルダーとシステムとの関わり方を変えるための設計変更の方法について学習しました

(ディスカッション内容は省略。199-201ページの本文参照)

ワークショップの数カ月後、GoogleとYouTubeは1億7000万ドルと、子ども向けと表示された動画のデータを今後収集しないという合意で訴訟を解決しました。

生徒たちの懸念の一部は訴訟で対処されました。たとえば、YouTube サイトを通して動画にアクセスしながらも、自分にとって成熟しすぎたコンテンツを取得しないという安心感が得られる。

私たちは、生徒たちがこの最近の変化に対する彼らの視点を理解するためのフォローアップすることに関心を持っています。

29 of 35

まとめ

From 201 page

ワークショップを通じて、生徒たちがAIを認識し、その働きを理解することを手助けしました。そしてAIをより公平にデザインするためのツールを生徒たちに提供することができました。AIは複雑なものですが、YouTubeのように、生徒たちがすでに親しんでいるアクティビティやテクノロジーを選びました。

生徒たちがカリキュラムに触れるうちに、彼らの会話が、日常の技術的なツールにおける公正さと公平性をめぐるディスカッションに移行し、より幅広いステークホルダーに共感できることがわかりました。

ワークショップでの1週間を振り返る中で、私たちは、生徒たちがAIとその社会への影響について新たに理解したことで、彼らが使うAI対応テクノロジーに対する主体性(原文:agency)の感じ方が変化していることがわかりました。

”どうして、議会は今日の最新技術を知らないのですか?”と疑問を持つするに至りました。

30 of 35

まとめ

From 201 page

  • ワークショップを通じて、生徒たちがAIを認識し、その働きを理解することを手助けしました。そしてAIをより公平にデザインするためのツールを生徒たちに提供することができました。AIは複雑なものですが、YouTubeのように、生徒たちがすでに親しんでいるアクティビティやテクノロジーを選びました。

  • 生徒たちがカリキュラムに触れるうちに、彼らの会話が、日常の技術的なツールにおける公正さと公平性をめぐるディスカッションに移行し、より幅広いステークホルダーに共感できることがわかりました。

  • ワークショップでの1週間を振り返る中で、私たちは、生徒たちがAIとその社会への影響について新たに理解したことで、彼らが使うAI対応テクノロジーに対する主体性(原文:agency)の感じ方が変化していることがわかりました。

31 of 35

まとめ

From 202 page

  • アクティビティは、コンピューターを使用するものや、創造的な作文や描画に頼るものなど、さまざまな学習スタイルや興味に対応できるようにデザインされています。
  • 生徒たちは、倫理的および技術的な内容を把握できただけでなく、日常的に使用するテクノロジーにそれを適用することができたと感じています。
  • YouTubeの再設計のアクティビティは、学習した内容に基づいてプロトタイプを作成することができたので、成功したと言えるでしょう。テクニカルなコースを通じてAIの知識を深める際、授業の要件に倫理を確実に組み込むよう教育者や教育政策立案者に働きかけています。
  • YouTubeプロジェクトの中で、倫理に焦点を当てることの影響を調べました。
  • この種のアクティビティを行うことの意味は、子供たちの AIリテラシーを高めるだけでなく、テクノロジー業界に関連する規範と文化を変えることにもなります。

結果に関する展望を持ち、考えることを促進しようとする教育上の実践は、産業界のデザイナーやエンジニアがこれらの同じスキルを発揮することを国民から期待につながります。

32 of 35

最後に

From 202 page

  • 生徒たちの考えが、消費者になることから、AI対応アプリやサービスの良心的なユーザーになることにシフトしたことは、AIの未来に関する楽観主義の新たなレベルをもたらしました。
  • 私たちのアクティビティを通じて、公正さ、偏見、視点の取り方など、哲学的なトピックについて、より深く話し合うことができました。
  • AIは、私たちが"どんな世界を作りたいのか?"を問うためのツールになりました。
  • 生徒たちは、世界をあるがままに振り返ることができ、自分が望むように世界をデザインするためのツールを手に入れました。
  • 彼らは、AIのより大きな意味を理解できるだけでなく、AIを改善してより包括的で公正な世界を作る方法について優れたアイデアを持っていました。

このワークショップで使用する教材はbit.ly/mit-ai-ethicsから入手可能です。

33 of 35

アクティビティ名

説明

スタンダード

時間

AIビンゴ

生徒には、さまざまなAIシステムが書かれたビンゴカードが配られます。生徒たちは、そのAIシステムを使ったことのあるパートナーを見つけ、協力して、システムが行っている予測と使用するデータセットを特定します。

1.c, 1.d

30 分

アルゴリズム入門(一般の考えとして)

生徒たちは、アルゴリズムがレシピのように、インプットを修正してアウトプットを生成する一連の命令であることを学びます。次に、生徒たちは、"ベスト"のピーナッツバターとゼリーのサンドイッチを作るアルゴリズムを書くよう促されます。次に、生徒たちは、に"ベスト"とはどういう意味かを検索し、自分たちの意見がアルゴリズムにどのように反映されるかを調べます。

1.b

2.a, 2.c

45 分

倫理マトリックス

”アルゴリズム入門”のレッスンを基に、生徒はピーナッツバターとジェリーサンドイッチのアルゴリズムに関心を持つステークホルダーと、ステークホルダーがアルゴリズムに持つ価値を特定します。次に、倫理マトリックスに記入し、それらの価値が重なる所や対立する所を確認します。

2.b

3.a, 3.b, 3.c, 3.d

4.a

45 分

教師あり機械学習とアルゴリズム・バイアス入門*

生徒は、分類の概念について紹介されます。Google Teachable Machineツールを調べることで、生徒は教師あり機械学習について学びます。次に、犬猫の分類器を構築するよう促されますが、知らず知らずのうちに偏ったデータセットが与えられます。分類器が犬よりも猫の方がよく機能する場合、生徒は自分たちの新しいデータセットを使って分類器を再トレーニングする機会を得ます。

1.c

2.c

~ �3 時間

APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ

日本語に翻訳したものは、こちらを参照ください。

原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。

34 of 35

アクティビティ名

説明

スタンダード

時間

スペキュレイティブ・フィクション

生徒たちは、感情検出ソフトウェアやGANなど、さまざまなテクノロジーと触れ合う機会を得ます。次に、生徒は、テクノロジーの影響を受ける可能性のある人や、テクノロジーが将来どのように害を及ぼすか、または利益をもたらすかに関する創作的な作文のプロンプトに対して答えます。このアクティビティはアンプラグドではありませんが、アンプラグドバージョンに向けたインストラクションがオープンソースの教材に含まれています。

3.a, 3.b, 3.c

5.a

~ �3 時間

APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ

以下のテクノロジーを使ってみてディスカッションする:

GANPaint Studio: 画像を簡単に加工できるAIペイントツール

http://gandissect.res.ibm.com/ganpaint.html

Talk to Transformer: GPT-3のようなものか

https://talktotransformer.com/

AFFETIVA: 感情検出するAIソフトウェア

https://demo.mr.affectiva.com/

https://www.affectiva.jp/aboutus

DETECT FAKES: フェーク動画やフェーク音声を検知するAI

http://deepangel.media.mit.edu/

日本語に翻訳したものは、こちらを参照ください。

原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。

35 of 35

アクティビティ名

説明

スタンダード

時間

YouTube スカベンジャーハント�

AIビンゴと同様に、パートナーである学生は、YouTubeプラットフォーム上のさまざまなAIシステム(広告マッチング・アルゴリズム、レコメンデーション・アルゴリズム、コメントの分類器など)を認識することが課題です。各システムについて、生徒は、アルゴリズムが何を予測しようとしているのか、アルゴリズムが使用しているデータセットが何かを特定します。

1.d

2.b

30 分

YouTubeの再設計

生徒は、これまでに学んだことを応用して、YouTubeのリコメンデーション・アルゴリズムに関する倫理マトリックスを構築します。この倫理マトリックスに基づいて、生徒たちは自分たちのアルゴリズムの目標(や"意見")を決定します。次に、生徒たちは、この新しいバージョンのYouTubeがどのようなものになるかのプロトタイプを作成し、特定済みのステークホルダーが持つ価値を満たす機能をイメージします。

2.b

3.a, 3.b, 3.c, 3.d

4.a, 4.b, 4.c

~ �4 時間

YouTubeソクラテス・セミナー

生徒たちは、” YouTube Weighs Major Changes to Kids Content Amid FTC Probe(YouTube、FTCの調査を受け、子供向けコンテンツに大幅な変更を検討)」と題されたウォール・ストリート・ジャーナルの記事の要約版を読んだ後、YouTubeキッズアプリの変更案に対する最も重要または影響力のあるステークホルダーは誰かや、自動再生などのテクノロジーは存在すべきかどうかについて話し合うソクラティックセミナーに参加しました。

2.b

3.a, 3.b, 3.c

4.c

5.a

30 分

APPENDIX ミドルスクールの生徒向け人工知能の倫理カリキュラムに�記載されている7つのアクティビティ

日本語に翻訳したものは、こちらを参照ください。

原本と同様にCC-BY-NCで公開するとともに、本紙5ページに掲載してもらうよう依頼する予定です。