🦜AI 윤리 레터
성과 보고
AI 윤리?
이런 것(만)을 이야기하는 건 아닙니다.
AI 윤리는…
이상욱, “AI 윤리란 무엇인가?” (2021), https://horizon.kias.re.kr/17815/
기술의 기획, 생산부터 활용, 여파까지 전 과정에 주목
기술-사회-인문의 영역을 가로지르며 논의
AI 윤리는…
인공지능을 둘러싼 기술 정치+윤리
🦜AI 윤리 레터는…
한국어로 AI 윤리를 중점적으로 다루고, �한국의 AI 윤리 이슈에 주목하는 (아마도 최초의) 콘텐츠 채널.
2023년 5월부터 운영
이슈 브리프 / 에세이 등을 주 2회 발송
비공개 모임 <AI 윤리 북클럽>(2022. 8~)에서 파생
활동 요약
주요 지표 (2025. 7. 1 기준)
다뤄온 주제
데이터 권리, 동의 없는 활용의 문제
AI vs 노동
‘오픈 모델’과 기술 거버넌스
업계 동향(openai vs google 등)
미국의 반중 정책(틱톡 금지, deepseek)
식민주의, 감시 국가와 실리콘밸리의 공모
전쟁 기술, 감시, 폭력
규제론의 흥망
초거대, 파운데이션, 프론티어, AGI, 초지능.. AI 하이프의 여러 이름과 실리콘밸리 이데올로기 비판, 대안적 상상
AI 윤리 관련 개념, 데이터셋, 도구
국내외 AI 규제 및 거버넌스, ‘AI 안전’ 담론의 부상
기후/환경, 지속가능성
허위정보, 선거/민주주의, 오정보
젠더, 디지털 성범죄, 딥페이크, 차별
AI 생성 텍스트의 본격 일상 진입 (상담 대화, 교실, 법정, 뉴스룸…)
디지털 교과서 소동
…
그밖의 활동/기획
공개 읽기 모임, 워크숍, 세미나, 발표, 기고 등 외부 활동
AI 분야 젠더 편향을 살펴보는 인터랙티브 스토리텔링 프로젝트
AI 윤리 대표 컨퍼런스 FAccT 논문 다이제스트 (2023, 2024)
국내업체가 발표한 LLM 안전 관련 데이터셋을 비판적으로 살펴보는 인터랙티브 툴
AI 만능론/공포를 부추기는 ‘AI 하이프 뉴스’를 식별하기 위한 체크리스트 번역 소개
간추려 보는 지난 2년
‘존재론적 위협’
거대 AI 실험을 중단하라 - 공개서한
2023년 3월
'삶의 미래 연구소' 공개서한 ft. 일론 머스크
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
AI 위협에 관한 성명서
2023년 5월
“인공지능에 기인한 멸종의 위협을 완화시키는 일은 팬데믹, 핵전쟁과 같은 사회 위협과 더불어 전세계적 우선사항이 되어야 한다.”
‘존재론적 위협’에 대한 반박
'막강한 인공지능 리스크'는 근거 없는 사변적 시나리오.
‘인간을 능가하는’ AI 기술 임박한 것처럼 현재 업계를 과대광고
AI 업계를 규제 대상에서 → ‘안전한 초지능’ 관리 거버넌스의 선구자로 포지셔닝
현존하는 해악을 해소하는 것이 중요.
https://www.dair-institute.org/blog/letter-statement-March2023
배운 것
관찰한 것
현존하는 위험과 해악은 현실화, 본격화하고 있다
‘존재론적 위협’에서 ‘AI 국가주의’로의 이행
현 상태에 답답함을 느끼고, 비판적 대안에 관심 있는 사람은 많지만 단절되어 있다
질문
활동의 지향점
시민사회, 기술업계, 학계, 문화예술, 공공/정부 등 다양한 영역을 연결하기
한국의 AI 윤리, 기술 비판 담론 커뮤니케이션에 기여 (기술을 둘러싼 리터러시, 문제 인식, 대안 제시 등)
이론, 기술, 실천이 만나는 공간
공동체의 관점에서 본 기술
더 해야 하는 일
(2023년 9월 내부 회고 중)
"대안과 실천, “무엇을 할 것인가”에 대한 상상이 더 많으면 좋겠습니다"
"한국의 맥락 위에서 다뤄졌으면 좋겠다"
국가/개인의 생존을 위해 따라가야만 하는, 주어진 것으로서의 기술-미래를 받아들이지 않고,�보다 공익적이고 정의로운 방향으로 기술을 함께 설계해가려면 어떤 실천이 필요할까?
기술의 기획, 생산부터 활용, 영향까지 전 과정에서 다양한 목소리를 어떻게 더 잘 연결하고 반영할 수 있을까?