Пользователь ChatGPT попросил встроенный в чатбот генератор картинок многократно (101 раз) перевоссоздать фотографию Скалы. И вот что получилось. Феномен испорченного телефона. А точнее «коллапса модели». AI не способен воспроизвести образец абсолютно точно, потому что он не копирка, а машина, которую научили угадывать по образу и подобию. Поэтому при воспроизведении модели точность нарушается. А каждую новую итерацию AI считает исходным материалом. В результате ошибки накапливаются и в какой-то момент изначальный образ окончательно умирает. Мораль сей басни – вот что AI нам устроит, если его не контролить на каждом шагу, а отпустить в свободное плавание. В любой области, прикладной или теоретической, будь то медицина или транспорт, космос или учеба, бытовые услуги или системы безопасности.
Комментарии