1

КЛАССИФИКАЦИЯ И ВОССТАНОВЛЕНИЕ ИЗОБРАЖЕНИЙ В ЗАДАЧЕ ОДНОПИКСЕЛЬНОЙ ВИЗУАЛИЗАЦИИ С ПОМОЩЬЮ КЛАССИЧЕСКИХ И КВАНТОВЫХ НЕЙРОННЫХ СЕТЕЙ

Докладчик: Манько Софья Дмитриевна

Научные консультанты: Фроловцев Дмитрий Николаевич,

Колпинский Сергей Викторович�Дата: 29.10.2023

Курс «Нейронные сети и их применение в научных исследованиях»

GitHub:

2/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

G. Gibson, S. Johnson, M. Padgett Single-pixel imaging 12 years on: a review // Opt. Express 28, 28190-28208 (2020)

Введение

3/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Классическое машинное обучение

вычисления на CPU/GPU

Время

Классические данные

Квантовые данные

Кубит

Квантовые вычисления

Суперпозиция состояний

Время

Данные

Данные

Квантовое машинное обучение

Предсказание �нейросети

Предсказание �нейросети

Введение

4/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Цель и задачи работы

Цель: С помощью квантового машинного обучения разработать алгоритмы классификации “однопиксельных изображений” и исследовать возможности их восстановления

Задачи:

• Построить классическую нейросеть для решения задачи классификации “однопиксельных изображений”
• Разработать классическую нейросеть для восстановления изображений
• Создать квантовую нейросеть для решения задачи классификации “однопиксельных изображений”
• Реализовать квантовую нейросеть для восстановления изображений
• Сравнить возможности классических и квантовых нейронных сетей для �обработки “однопиксельных изображений”

5/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

План доклада

• Моделирование однопиксельного детектирования. Описание данных для нейросетей
• Разработка классических нейронных сетей
• Архитектура классической нейросети для классификации “однопиксельных изображений”
• Результаты классификации
• Влияние SPAM-шумов
• Архитектура классической нейросети для восстановления изображений
• Результаты восстановления изображений
• Разработка квантовых нейронных сетей
• Теоретическое введение
• Архитектура квантовой нейросети для классификации “однопиксельных изображений”
• Результаты классификации
• Архитектура квантовой нейросети восстанавливающей изображения
• Результаты восстановления изображений
• Оценка времени обучения моделей на квантовом компьютере
• Выводы

6/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Описание данных

7/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Классический классификатор

Время обучения: 29 c. (GPU)

Число обучаемых параметров: 9610

Финальная точность на тестовой выборке – 96,5%

Число эпох - 6

Функция активации - ReLu

Оптимизатор - Adam

Loss - Кросс-энтропия

Learning rate - 0.001

Длина входного вектора - 64

Число обучаемых параметров -

- число элементов на входе �i-го слоя

- число элементов на выходе �i-го слоя

8/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Влияние SPAM-шумов

9/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Классическое восстановление изображений

Время обучения: 1 мин. 23 c. (GPU)

Число обучаемых параметров: 20 122 024

Финальная MSE на тестовой выборке – 0,07

Значение SSIM на тестовой выборке - 0,79

Число эпох - 6

Функция активации - ReLu

Оптимизатор - Adam

Loss - MSE

Learning rate - 0.001

Длина входного вектора - 64

Число обучаемых параметров -

- число элементов на входе �i-го слоя

- число элементов на выходе �i-го слоя

10/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовые нейронные сети

Данные

и параметры квантовой схемы

Классический

Обновление параметров квантовой схемы

Квантовый

Слои квантовой нейросети

Входной слой

(кодирование данных)

Выходной слой (измерение)

Оценка значения функции потерь

Вычисление градиентов

11/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовый классификатор

Длина входного вектора – 64

Число кубитов классификатора – 6

Число слоев классификатора - 6

Измерение Паули-Z наблюдаемой

12/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовый классификатор

Время обучения: ≈ 4 ч. (default qubit simulator)

Число обучаемых параметров: 1 090

Финальная точность на тестовой выборке – 92,6%

Число эпох – 3

Число бинарных квантовых классификаторов - 10

Оптимизатор – Adam

Критерий – Margin loss

Learning rate – 0.01

Число обучаемых параметров –

13/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Результирующее изображение

Вероятности состояний

14/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Вектор квантового состояния

15/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Loss = 1 - Fidelity (Cosine Similarity²)

10 слоев, lr=0,5

время ≈ 30 мин.

SSIM = 0,1630

final loss = 0,4799

20 слоев, lr=0,5

время ≈ 1 час

SSIM = 0,178

final loss = 0,4607

30 слоев, lr=0,05

время ≈ 1,5 часа

SSIM = 0,1409

final loss = 0,4253

16/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Loss = 1 - Cosine Similarity

10 слоев, lr=0,5

время ≈ 30 мин.

SSIM = 0,1282

final loss = 0,2984

20 слоев, lr=0,05

время ≈ 1 час

SSIM = 0,1067

final loss = 0,2823

30 слоев, lr=0,05

время ≈ 1,5 часа

SSIM = 0,1512

final loss = 0,2524

17/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Loss = MSE*

10 слоев, lr=0,5

время ≈ 30 мин.

SSIM = 0,1295

final loss = 0,5683

20 слоев, lr=0,05

время ≈ 1 час

SSIM = 0,1067

final loss = 0,5646

30 слоев, lr=0,05

время ≈ 1,5 часа

SSIM = 0,1512

final loss = 0,5048

18/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Квантовое восстановление изображений

Loss = 1 - SSIM

10 слоев, lr=0,5

время ≈ 30 мин.

SSIM = 0,4027

final loss = 0,6446

20 слоев, lr=0,05

время ≈ 1 час

SSIM = 0,4199

final loss = 0,5802

30 слоев, lr=0,05

время ≈ 1,5 часа

SSIM = 0,4027

final loss = 0,5932

19/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Оценка времени обучения на квантовом компьютере

20/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Выводы

• Впервые для решения задачи классификации “однопиксельных изображений” был применен метод квантового машинного обучения. Показана применимость квантовых нейронных сетей к задаче анализа “однопиксельных изображений”. Кроме того, разработана квантовая нейросеть восстанавливающая изображения;
• Созданы и обучены классическая и квантовая классификаторы “однопиксельных изображений” по измерениям объекта, основанного на датасете MNIST, в базисе Адамара, составляющих всего 6% от количества пикселей в исходном объекте;
• Точности предсказания для классического и квантового классификатора оказались равны 97% и 93%, соответственно;
• Время обучения классического классификатора на графическом процессоре составило 29 с., а на симуляторе квантового состояния 4,5 ч.;
• Исследовано влияние шума на точность модели;

21/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Выводы

• Разработана классическая нейросеть для восстановления изображений, которая позволила получить качественное изображение со среднеквадратичной ошибкой равной 0.07 и индексом структурного сходства 0.79; время обучения модели на GPU составило 1 мин. 23 c.;
• Исследовано как зависят метрики качества обучения созданных классических нейросетей от количества измерений в базисе Адамара и показано, что 64 измерения (6% от всех возможных) для такой задачи является оптимальным значением;
• Определено количество обучаемых параметров во всех построенных моделях, они равны 9 610 и 1 090 для классического и квантового классификатора; 20 122 024 и 300 для классической и квантовой нейросети из 30 слоев, решающей задачу регрессии, соответственно. Показано, что в случае квантовых нейросетей необходимо оптимизировать меньшее число параметров;
• Получена оценка времени обучения квантовых нейронных сетей на существующем 443-ех кубитном сверхпроводниковом квантовом компьютере ibm_seattle, она составила 2 мин. на эпоху для квантового классификатора и 4,5 ч. на эпоху для восстановления изображений.

СПАСИБО ЗА ВНИМАНИЕ!

22/22

Формирование изображений методом однопиксельного детектирования с помощью квантового машинного обучения

Возможные варианты для публикации

Журналы:

• Quantum
• Optics letters (OSA)
• Quantum Engineering and Technology (frontiers)
• Quantum Science and Technology (IOPscience)

Конференции:

• International Conference Laser Optics (ICLO)
• International conference on quantum technologies (ICQT)
• International school on quantum technologies