2 of 58

Aaron Snowberger Who are you?

한국 도착:	2006
한국어능력:	4급 / 6
학력:	2024, 한밭대학교, 정보통신공학과, 박사 2011, Full Sail University, 미국, 미디어 디자인, 석사 2006, University of Wyoming, 미국, 컴퓨터공학, 학사 (자격): 리액트, 컴퓨터비전, 머신러닝, 딥러닝, 자연어 처리,
온라인 강의:	2020, 현재 워드프레스 테마 개발 \| CSS 입문
고등학교 강의:	2023-2024, 충북에 있는 고등학교 2021, 익산 마이스터 고등학교, 파이썬 기초 2013-2019, 국제영재아카데미, 웹프로그래밍, 컴퓨터공학 이론, 컴퓨터 발견, 컴퓨터 A+, 로보틱스, 자바 프로그래밍, 그래픽 디자인, 출판 디자인, 디지털 시민 교육, 중학교 컴퓨터, 수학
대학교 강의:	2024, 전북대학교, 수소 연료전지, 데이터 구조, 반도체 공정 2023, 한밭대학교 (대전), 고급C프로그래밍, C++프로그래밍 2023, 대전대학교, 자바, 자바웹, 데이터베이스, 유닉스 2023, 전주교육대학교, 정보사회와 소프트웨어 2023, 교통대학교 (충주), 웹프로그래밍응용 2019-2023, 전주대 / 전북대, 스마트 택: 구글 클래스룸과 메체 만든 기술 2010-2023, 전주대학교, 영어회화

SLIDESMANIA.COM

3 of 58

https://pollev.com/aarons007

SLIDESMANIA.COM

4 of 58

19:00-19:50: ChatGPT 및 대규모 언어 모델 개요

ChatGPT가 어떻게 구축되고, 어떻게 작동하며, 제한 사항

20:00-20:30: ChatGPT 실습

다양한 예제와 함께 ChatGPT 탐색

20:30-20:50: 토론, Q&A

ChatGPT에 대해 더 알고 싶은 것, 궁금한 점이 있다면 무엇인가요?
예: “모의고사 유형의 문제 만드는 법”

SLIDESMANIA.COM

5 of 58

ChatGPT 및 대규모 언어 모델 개요

ChatGPT가 어떻게 구축되고, 어떻게 작동하며, 제한 사항

SLIDESMANIA.COM

6 of 58

What is ChatGPT?

챗GPT가 무엇입니까?

SLIDESMANIA.COM

7 of 58

Chat: 대화

G: Generative �(생성적)

P: Pre-trained �(사전 훈련된)

T: Transformer �(트랜스포머)

(알고리즘)

SLIDESMANIA.COM

8 of 58

Generative (생성적)

SLIDESMANIA.COM

9 of 58

Pre-trained (사전 훈련된)

SLIDESMANIA.COM

10 of 58

Transformer (트랜스포머)

SLIDESMANIA.COM

11 of 58

LLM : Large Language Model

대규모 언어 모델

SLIDESMANIA.COM

12 of 58

What is a Large Language Model? 대규모 언어 모델이란?

1. Avid reader�열렬한 독자

2. Finding patterns in text�텍스트에서 패턴 찾기

SLIDESMANIA.COM

13 of 58

What is a Large Language Model? 대규모 언어 모델이란?

3. Making next letter/word predictions�다음 문자나 단어 예측

4. Updating itself to increase accuracy�정확도를 높이기 위해 모델을 �약간 업데이트

SLIDESMANIA.COM

14 of 58

1. As Avid Reader 열렬한 독자

SLIDESMANIA.COM

15 of 58

2. Finding Patterns 텍스트에서 패턴 찾기

1948년에는 패턴 일치 및 예측 텍스트에 대한 간단한 설명을 제공하는 "The Mathematics of Communication"이 출판되었습니다.

SLIDESMANIA.COM

16 of 58

2. Finding Patterns 텍스트에서 패턴 찾기

시작점: “the” …..

임의의 페이지 열고 “the” 찾고

….. “head” …..

임의의 페이지 열고 “head” 찾고

….. “and” …..

임의의 페이지 열고 “and” 찾고

..… “frontal” …..

임의의 페이지 열고 “frontal” 찾고

…..

알 맞는 문장을 만들 수 있지만 의미 없습니다…

SLIDESMANIA.COM

17 of 58

2. Finding Patterns 텍스트에서 패턴 찾기

그래서, 어휘 대신 표현을 찾으면….

시작점: “I continued walking in” …..

임의의 페이지 열고 “I continued walking in” 찾고

….. “this” …..

임의의 페이지 열고 “continued walking in this” 찾고

….. “manner” …..

임의의 페이지 열고 “walking in this manner” 찾고

..… “for” …..

임의의 페이지 열고 “in this manner for” 찾고

…..

“I continued walking in this manner for some time, and I feared the effects of the daemon’s disappointment.” (의미 있는 문장을 만들 수 있습니다.)

SLIDESMANIA.COM

18 of 58

3. Next Word Predictions 다음 단어 예측

밀접하게 관련된 단어에 임의성을 도입하여 약간의 변형을 만들 수 있습니다.�You can create some variations by introducing randomness to closely related words.

하지만 우리는 이 시스템에 전적으로 의존할 수는 없습니다. 문제는 결국 원본 텍스트에 전혀 표시되지 않는 문구를 찾게 된다는 것입니다. 찾고 있는 정확한 단어를 찾을 수 없을 때에도 프로그램이 작동하려면 필요합니다.

Jesus said …

[Frankenstein] said …

SLIDESMANIA.COM

19 of 58

3. Next Word Predictions 다음 단어 예측

전체 텍스트를 고려하고 다음으로 가장 가능성이 높은 단어에 투표하면 더 나은 모델을 만들 수 있다.

A better model considers the entire text and votes on the next most likely word.

시작점: “I continued walking in” …..

this

(65%)

London

(32%)

(17%)

the

(12%)

way

(89%)

path

(78%)

street

(21%)

manner

(5%)

SLIDESMANIA.COM

20 of 58

3. Next Word Predictions 다음 단어 예측

전체 텍스트를 고려하고 다음으로 가장 가능성이 높은 단어에 투표하면 더 나은 모델을 만들 수 있다.

A better model considers the entire text and votes on the next most likely word.

시작점: “I continued walking in” …..

this

(65%)

London

(32%)

(17%)

the

(12%)

way

(89%)

path

(78%)

street

(21%)

manner

(5%)

SLIDESMANIA.COM

21 of 58

4. Model Updating 모델을 약간 업데이트

그리고 예측 결과를 올바른 결과와 비교하면 모델을 반대로 (역전파로) 약간 업데이트합니다.

When the predicted result is compared with the correct result, update the model (backpropagation).

시작점: “I continued walking in” …..

this

(65%)

London

(32%)

(17%)

the

(12%)

way

(89%)

path

(78%)

street

(21%)

manner

(15%)

“I continued walking in this manner for some time…

SLIDESMANIA.COM

22 of 58

채식주의자

또 다른 텍스트 생성 예

SLIDESMANIA.COM

23 of 58

The Generative Step = ½

생성적 = 절반

First, the language model must understand the user's question. This means finding keywords and other particular characteristics.

This process is called “feature extraction” and is a type of deep learning.

첫째, 언어 모델은 사용자의 질문을 이해해야 합니다. 이는 키워드 및 기타 특징을 선택하는 것을 의미합니다.

이 과정을 "특징 추출"이라고 하며 일종의 딥러닝입니다.

SLIDESMANIA.COM

24 of 58

Chat: 대화

G: Generative �(생성적)

P: Pre-trained �(사전 훈련된)

T: Transformer �(트랜스포머)

(알고리즘)

먼저, 사용자의 질문을 이해

SLIDESMANIA.COM

25 of 58

NLP = 딥러닝 (자연어처리)

다른 딥러닝 애플리케이션과 비교

SLIDESMANIA.COM

26 of 58

이미지 처리

오디오 처리

SLIDESMANIA.COM

27 of 58

데이터 처리 단계

데이터의 디지털 표현
가장 작은 값 분석
의미 할당
전체 평가

SLIDESMANIA.COM

28 of 58

데이터 처리 단계

데이터의 디지털 표현
가장 작은 값 분석
의미 할당
전체 평가

SLIDESMANIA.COM

29 of 58

이미지 처리 예

이 예제는 NLP 품사 태그, 단어 분류 및 AI 모델이 전반적인 그림을

"이해"하는 방식을 이해하는 데 도움이 될 수 있습니다.

SLIDESMANIA.COM

30 of 58

오래된 프로그래밍 패러다임

규칙 기반 프로그래밍(가능한 모든 규칙이 하드 코딩됨)

고양이가…

구레나룻
작은 코
삼각형 귀

개가…

긴 코
긴 귀
긴 모피

단점?

문제?

SLIDESMANIA.COM

31 of 58

오래된 프로그래밍 패러다임

규칙 기반 프로그래밍(가능한 모든 규칙이 하드 코딩됨)

IBM의 딥블루: 지능적 게임에서 최초로 세계 챔피언을 이기다

1997년 5 월, IT 기기 회사 IBM에서 개발한 슈퍼컴퓨터 딥블루 (Deep Blue)가 세계 챔피언 그랜드 마스터인 가리 카스파로프 (Garry Kasparov)를 상대로 여섯 번의 체스 대국을 치릅니다. 결과는 2승 3무 1 패로 딥블루가 가리 카스파로프를 이기면서 70만 달러의 우승 상금을 차지하였습니다.

참고로 가리 카스파로프는 1985년부터 2000년까지 16년간 세계 챔피언 자리를 차지하던 선수였습니다.

SLIDESMANIA.COM

32 of 58

새로운 프로그래밍 패러다임

"특징 추출"

고양이는…�개는…

이렇게 생겨

아! 이 것은 고양이구나!�이것은 개구나!

이제 내 예측과 올바른 결과를 비교해 보겠습니다.

오, 제가 틀렸네요.

그러면, 내 예측 계산을 업데이트해 보겠습니다...

단점?

문제?

SLIDESMANIA.COM

33 of 58

새로운 프로그래밍 패러다임

"특징 추출"

구글 딥마인드의 알파고: 초고수의 직관력마저 넘어서다

2016년 3월, 인공지능이 넘볼 수 없는 인간만의 직감, 직관 영역으로 여겨지던 바둑나 분야에서 인공지능이 인간을 이기는 사건이 발생했습니다. 상금 100만 달러를 놓고 펼쳐진 대결은 알파고가 4승 1 패를 함으로써 승리를 가져 갔습니다.

바둑판에 돌이 놓일 수 있는 모든 경우의 수는 대략 2.081682 X 10¹⁷⁰으로, 이는 우주의 원자 개수보다 많다고 합니다.

그런데 어떤 분야에서 초고수가 되면 과학적으로는 설명하기 어려운 직관력이 생기는데, 바둑은 이 직관력을 통해 사람이 인공지능을 영원히 이길것이라 믿어 왔던 영역이었습니다.

SLIDESMANIA.COM

34 of 58

새로운 프로그래밍 패러다임

"특징 추출"

SLIDESMANIA.COM

35 of 58

전체 모델

Feature extraction happens during the encoding phase of training to identify patterns and keywords.

훈련의 인코딩 단계에서 특징 추출을 통해 패턴과 키워드를 식별할 수 있습니다.

This information is then passed to the decoding generation stage to produce the results.

그런 다음 이러한 정보는 디코딩 생성 단계로 전송되어 결과를 생성합니다.

SLIDESMANIA.COM

36 of 58

전체 모델

SLIDESMANIA.COM

37 of 58

상상해 보세요. 인터넷에 존재하는 모든 텍스트 데이터를 연결하여, 언제든지 가능한 모든 조합의 일관된 생각을 즉시 조회하고 재현할 수 있다면 어떨까요? 이것이 바로 ChatGPT입니다.

SLIDESMANIA.COM

38 of 58

하지만 ChatGPT와 같은 시스템은 �실제로 생성하지 않고 �모방만 합니다.

SLIDESMANIA.COM

39 of 58

LLMs

응용, 기회, 장애물

LLM 장애물:

비용(훈련, 배포, 운영)
편견(훈련 데이터)
AI 환각(응답이 훈련 데이터에 기반하지 않음)
시스템의 문제 해결
글리치 토큰(LLM이 작동하지 않도록 설계된 잘못된 데이터)
윤리적 문제

SLIDESMANIA.COM

40 of 58

LLMs

응용, 기회, 장애물

LLM 기회:

텍스트 생성
언어 번역
텍스트나 콘텐츠 요약 또는 재작성
콘텐츠 구성
감정 분석(유머, 톤)
사용자와 자연스럽게 대화

SLIDESMANIA.COM

41 of 58

ChatGPT 실습

다양한 예제와 함께 ChatGPT 탐색

SLIDESMANIA.COM

42 of 58

ChatGPT는 아이디어 생성을 돕는 출발점입니다.

SLIDESMANIA.COM

43 of 58

텍스트 생성

2번째 언어를 배우는 것의 이점에 대한 500단어 에세이를 작성해 주세요.
마법의 열쇠를 발견한 아이에 대한 창의적인 이야기를 써 주세요.
비즈니스 파트너와의 미팅을 요청하는 공식 이메일을 작성해 주세요.
자연에 대한 하이쿠 스타일의 시를 작성해 주세요.
재택근무 중 생산성을 유지하는 방법에 대한 블로그 글 아이디어 목록을 만들어 주세요.

SLIDESMANIA.COM

44 of 58

언어 번역

이 영어 문단을 한국어로 번역해 주세요: “The quick brown fox jumps over the lazy dog.”
이 한국어 문장을 영어로 번역해 주세요: "오늘 날씨가 정말 좋네요."
"How are you?"라는 문장의 스페인어 번역은 무엇인가요?
다음 프랑스어 문장을 영어로 번역해 주세요: "Je m'appelle Marie et j'aime la musique."
이 법적 문서를 영어에서 한국어로 번역해 주세요.

SLIDESMANIA.COM

45 of 58

텍스트나 콘텐츠 요약 또는 재작성

이 10페이지 보고서를 5개의 핵심 포인트로 요약해 주세요.
이 문단을 어린 독자를 위한 더 쉬운 언어로 재작성해 주세요.
이 기후 변화에 대한 기사를 100단어로 요약해 주세요.
이 비즈니스 이메일을 더 격식을 갖춘 문체로 재작성해 주세요.
리더십에 관한 이 TED 강연의 주요 포인트를 요약해 주세요.

SLIDESMANIA.COM

46 of 58

콘텐츠 구성

시간 관리의 중요성에 대한 프레젠테이션의 개요를 작성해 주세요.
SAT 시험 준비를 위한 학습 계획을 작성해 주세요.
고등학생에게 데이터 과학을 가르치기 위한 수업 계획을 작성해 주세요.
친환경 제품을 중심으로 한 스타트업을 위한 사업 계획을 설계해 주세요.
새 책 홍보를 위한 소셜 미디어 콘텐츠 캘린더를 초안해 주세요.

SLIDESMANIA.COM

47 of 58

감정 분석(유머, 톤)

이 이메일의 톤을 분석하고 더 긍정적으로 보이도록 개선점을 제안해 주세요.
이 문장은 유머로 쓰인 것인가요, 아니면 비꼬는 말인가요? �"Oh, great! Another meeting!"
이 메시지를 더 열정적이고 매력적으로 들리도록 다시 작성해 주세요.
이 고객 리뷰의 감정적 의미는 무엇인가요?
이 농담의 유머를 분석해 주세요: �"Why don’t skeletons fight each other? Because they don’t have the guts."

SLIDESMANIA.COM

48 of 58

감정 분석(유머, 톤)

장기 프로젝트를 할 때 동기 부여를 유지하는 좋은 방법은 무엇인가요?
추리 소설을 좋아하는 사람에게 추천할 만한 좋은 책이 있나요?
여가 시간에 할 수 있는 창의적인 취미는 무엇이 있나요?
내가 모를 만한 흥미로운 역사적 사실을 알려 주세요.
시간 관리 능력을 향상시키기 위한 팁은 무엇인가요?

SLIDESMANIA.COM

49 of 58

“모의고사 유형의 문제 만드는 법”

SLIDESMANIA.COM

50 of 58

토론, Q&A

ChatGPT에 대해 더 알고 싶은 것, 궁금한 점이 있다면 무엇인가요?

SLIDESMANIA.COM

51 of 58

외국어 어휘를 공부하는 가장 좋은 방법

SLIDESMANIA.COM

52 of 58

어휘가 퍼즐과 같다면…

모국어의 새로운 어휘

각 조각은:

색상과 의미가 있으며
다른 조각과의 관계에 대한 힌트가 있으며
빠르게 분류할 수 있으며
다른 조각과 연관될 수 있습니다.

SLIDESMANIA.COM

53 of 58

어휘가 퍼즐과 같다면…

외국어의 새로운 어휘

각 조각은:

흩어져 있고,
퍼즐이 혼란스럽습니다.
색상도 의미도 없고,
다른 조각과의 관계에 대한 힌트도 없고,
빠르게 분류할 수 없습니다.
다른 조각과 연관시킬 수 없습니다.

SLIDESMANIA.COM

54 of 58

외국어 어휘를 공부하는 가장 좋은 방법

단어를 실제로 안다는 것은 무엇을 의미합니까? 특히 외국어 단어는요.

발음 인식
서면 형식 인식
실제로 스스로 철자를 쓰거나 쓸 수 있음
스스로 말할 수 있다는 것
모국어로 정의 알기

개념이나 아이디어를 시각적으로 이해하기(명사가 가장 쉬움)
기억, 사건, 경험 등을 더 깊이 이해하기
문장에서의 사용법 이해
어떤 다른 단어와 함께 사용/쌍으로 사용될 수 있는지 이해하기
사용될 수 있는 맥락 이해(감정에만 해당)

동의어와 반의어 알기
문맥에 따른 사용법 인식 - 서면 또는 음성
요구에 따라 구두로 회상하기
문맥에 맞게 서면 형식으로 적절하게 사용할 수 있음
실제로 대화에서, 적절한 형식으로, 적절한 맥락에서, 즉석에서 기억에서 그것을 불러낼 수 있습니다.

SLIDESMANIA.COM

1 of 58

2 of 58

3 of 58

4 of 58

5 of 58

6 of 58

7 of 58

8 of 58

9 of 58

10 of 58

11 of 58

12 of 58

13 of 58

14 of 58

15 of 58

16 of 58

17 of 58

18 of 58

19 of 58

20 of 58

21 of 58

22 of 58

23 of 58

24 of 58

25 of 58

26 of 58

27 of 58

28 of 58

29 of 58

30 of 58

31 of 58

32 of 58

33 of 58

34 of 58

35 of 58

36 of 58

37 of 58

38 of 58

39 of 58

40 of 58

41 of 58

42 of 58

43 of 58

44 of 58

45 of 58

46 of 58

47 of 58

48 of 58

49 of 58

50 of 58

51 of 58

52 of 58

53 of 58

54 of 58

55 of 58

56 of 58

57 of 58

58 of 58