Этическая архитектура
эпохи синтетических медиа
стандарты, риски и решения для индустрии коммуникаций �
Алексей Парфун
Вице-президент АКАР
CEO, Co Founder Ai influence�Co Founder Reface Technology
Советник Генерального директора Первого канала
Лауреат рейтинга топ-1000
российских менеджеров 2023,2024,2025
Лауреат премии Медиа-менеджер России
Автор телеграм-канала Полезный Парфун
��
73%
Компаний используют ИИ
В медиа-индустрии для создания контента (Partnership on AI, 2025)
x2
Рост объема контента
Количество синтетических медиа удваивается каждые 6 месяцев
Lil Miquela
Грань между инструментом и конкурентом
ИИ как инструмент
Субъект: Человек
Расширяет возможности, не заменяя автора
Берет на себя рутину (вариации, шаблоны)
Освобождает время для стратегии
Человек принимает финальное решение
ИИ как конкурент
Субъект: Алгоритм
Самостоятельно принимает творческие решения
Оптимизирует метрики вместо создания смыслов
Человек превращается в оператора
Интуиция и опыт обесцениваются
"Мы должны быть уверены, что цели, которые мы ставим перед ИИ, действительно соответствуют нашим человеческим ценностям."
— Стюарт Рассел, UC Berkeley
Проблема выравнивания (Alignment Problem)
Ник Бостром
Главная опасность ИИ не в том, что он будет враждебным, а в том, что он будет компетентным, но его цели не совпадут с нашими.
"ИИ не ненавидит вас, но вы состоите из атомов, которые он может использовать для чего-то другого."
Сценарий 1: Буквальное выполнение
ИИ выполняет задачу точно так, как она сформулирована, игнорируя контекст и здравый смысл.
Сценарий 2: Инструментальная конвергенция
ИИ стремится к власти и ресурсам, потому что это полезно для достижения любой цели.
Задача: "Максимизируй вовлеченность" → Манипуляция сознанием.
Задача: "Максимизируй счастье" → Электроды в мозг.
Юваль Ной Харари
ИИ может взломать "операционную систему" человека, используя данные о его поведении, предпочтениях и психологии.
01. Поведенческий
Предсказание действий на основе лайков и кликов.
02. Психологический
Формирование убеждений через персонализированный контент.
03. Экзистенциальный
Переписывание свободы воли и потеря агентности.
"Главная опасность ИИ не в том, что он восстанет против нас, а в том, что он поможет нашим худшим инстинктам."
Взлом человека (Hacking Humans)
Справедливость и власть
Тимнит Гебру
Алгоритмическая предвзятость — это не техническая ошибка кода, а симптом распределения власти в обществе.
"Вопрос не в том, справедлив ли ИИ, а в том, кто решает, что такое справедливость."
01
Власть над данными
Кто собирает информацию и кого она представляет?
02
Власть над нарративом
Чьи ценности заложены в определение "объективности"?
03
Власть над будущим
Чьи интересы учитываются при разработке технологий?
Экзистенциальный риск
Макс Тегмарк
Мы участвуем в гонке между мощью технологий и мудростью, с которой мы ими управляем.
"ИИ будет либо лучшим, либо худшим событием в истории человечества. Выбор за нами."
Narrow AI
Синтетические медиа, дипфейки. (Мы здесь)
→
AGI
Человеческий уровень интеллекта
→
ASI
Суперинтеллект. Точка невозврата.
Российский контекст
Аппаратное обеспечение
Санкции и дефицит чипов. Ограниченный доступ к передовым решениям (NVIDIA).
Необходимость адаптации гражданских технологий под военные нужды отвлекает ресурсы от креативного сектора.
Данные и качество
Отставание в объеме датасетов. Российские наборы данных значительно меньше глобальных (Google, Meta). Это ведет к снижению точности моделей, предвзятости и плохому пониманию культурных нюансов за пределами РФ.
Кадровый дефицит
Утечка мозгов. Конкуренция с международными гигантами и релокация специалистов ослабляют отечественную R&D базу, замедляя фундаментальные исследования.
Основание этической архитектуры
01. Согласие
Краеугольный камень
- Явное разрешение на использование образа/голоса
- Проблема исторических образов
- "В каких условиях дается согласие?"
Основание этической архитектуры
01. Согласие
Краеугольный камень
Явное разрешение на использование образа/голоса
Проблема исторических образов
"В каких условиях дается согласие?"
02. Раскрытие
Аудитория должна знать правду
Обязательная маркировка
Стандарт C2PA (цифровая подпись)
Инструмент для критической оценки, а не запрет
Основание этической архитектуры
01. Согласие
Краеугольный камень
Явное разрешение на использование образа/голоса
Проблема исторических образов
"В каких условиях дается согласие?"
02. Раскрытие
Аудитория должна знать правду
Обязательная маркировка
Стандарт C2PA (цифровая подпись)
Инструмент для критической оценки, а не запрет
03. Прозрачность
Открытость разработчиков.
Описание происхождения данных
Аудит на предвзятость и риски
Меры саморегулирования
01
Обязательная маркировка
Принятие стандарта видимой маркировки (логотип/текст) для всего синтетического контента. Правило гигиены, аналогичное "на правах рекламы".
02
Технологический стандарт (C2PA)
Внедрение "цифровой подписи" для отслеживания происхождения. Платформы ограничивают распространение контента без проверенной истории.
03
Профессиональные кодексы
Разработка этических норм для PR и маркетинга. Запрет на манипуляцию и введение репутационных санкций для нарушителей.
Вопросы, требующие решения прямо сейчас
Гиперперсонализированная манипуляция
ИИ анализирует цифровое поведение в реальном времени и создает синтетический контент, направленный на уязвимые точки конкретного человека.
Это не просто реклама, это видео или аудио от "друга" или лидера мнений, созданное для политической или коммерческой цели.
Угроза: Оружие массового поражения в инфополе
Эрозия доверия через "серый" контент
Массовое производство правдоподобного, но не фактического контента. Это не откровенный фейк, а искажение реальности, размывающее границу факта.
Приводит к тотальному недоверию к любым источникам информации, включая официальные СМИ.
Угроза: Разрушение самой возможности диалога
СПАСИБО