В руки человеку попал инструмент почти космического масштаба. Я не подбираю здесь красивое слово — другого просто не нахожу. Нейросеть действительно умеет то, что ещё недавно казалось фантастикой: писать код, переводить с языка на язык, проектировать сайты, помогать в инженерных задачах, разбирать сложные схемы, считать быстрее человека, сопоставлять такие объёмы информации, которые человеку в один момент времени просто удержать в голове невозможно.
В этом смысле нейросеть — великолепный помощник. Иногда даже страшный в своём величии.
Но именно поэтому особенно странно смотреть, как этот инструмент всё чаще используют не там, где он силён, а там, где он почти неизбежно производит мусор.
Интернет уже заполняется текстами, картинками, роликами, песнями, которые сделаны не потому, что человеку было что сказать, а потому, что он получил кнопку и нажал на неё. Всё блестит, движется, звучит, улыбается, изображает драму — и при всём этом от него веет мертвечиной.
Проблема не в самой нейросети. Проблема в том, что ей ставят задачи, для которых она плохо приспособлена.
Нейросеть может привести твои записи в порядок. Она может помочь собрать разрозненные мысли, поправить грамматику, выстроить структуру, подсказать заголовок, найти слабое место в тексте. Она может быть хорошим редактором, инженером, переводчиком, справочником, помощником в работе.
Но она не может пережить за человека то, что человек пытается вспомнить.
Если из машины вырвать микросхему, она не почувствует боли. Она просто перестанет работать. С человеком иначе. Человек чувствует боль, страх, потерю. Смерть — это конец вселенной, которую собой являет человек.
И, может быть, к счастью, машина этого не знает. Потому что та же нейросеть когда-нибудь сможет спроектировать робота-хирурга, который сделает сложнейшую операцию лучше самого опытного хирурга. Она может помочь спасти сердце. Но она не знает, что значит жить с сердцем.
Вот в этом и парадокс.
Нейросеть сильна там, где нужна точность, расчёт, память машинного типа, скорость, перебор вариантов, проектирование. Но там, где нужна человеческая боль, человеческая память, человеческое дыхание, она начинает подменять живое гладкой мёртвой копией.
Особенно это видно в сгенерированных видеороликах.
Недавно я видел ролик: советская деревня, какое-то расследование, убийство, приезжают милиционеры или следователи. Казалось бы, задача простая: воспроизвести эпоху. Но на экране появляются люди в форме, которая больше похожа на форму военных полицаев или вообще на какую-то фантазию по мотивам эсэсовской эстетики. Такой милицейской формы в советской жизни не было. Следователи так не ходили. Так не выглядели. Так не держались.
И вот здесь вся фальшь становится видна сразу.
Картинка вроде бы «историческая». Деревня вроде бы «советская». Драма вроде бы «мрачная». Но одна неправильно понятая форма ломает всё. Потому что историческая правда живёт в деталях: в шинели, в кителе, в петлицах, в погонах, в походке, в том, как человек держит папку, как входит в дом, как разговаривает с участковым, как курит на крыльце.
Машина этого не знает. Она складывает образ из картинок, которые где-то видела, и выдаёт не память эпохи, а визуальный суррогат.
Такой ролик может выглядеть эффектно. Но он всё равно мусорный.
То же самое происходит с музыкой.
Появилось целое движение, где нейросети, специально заточенные под производство песен, пытаются поставить на место живого музыканта. Уже даже появился презрительный оборот — «певец ртом». Как будто человек, который поёт своим голосом, вдруг стал чем-то устаревшим, смешным, ненужным. Как будто теперь достаточно написать машине несколько строк, нажать кнопку и получить «песню».
Но человек с гитарой в руках делает не это.
Он продумывает каждую ноту. Он ищет звук пальцами. Он ошибается, возвращается, пробует снова. Он слышит не только мелодию, но и себя в этой мелодии. Он вкладывает туда дыхание, неловкость, боль, усталость, радость, память. Иногда голос дрожит — и именно в этом дрожании больше правды, чем в идеально сгенерированной дорожке.
Нейросеть может выдать красивый mp3. Может сделать припев, куплет, аранжировку, картинку, клип. Но очень часто всё это остаётся разговором человека с машиной, где человек пытается передать чувство, а машина возвращает ему аккуратно собранный звук без переживания.
И это тоже мусор, если выдавать его за живое творчество.
Раньше люди часами сидели в играх, проходили уровни, добывали условные достижения в Майнкрафте, Варкрафте или других мирах, которые забирали время жизни. Теперь часть той же энергии переносится в генерацию песен, роликов, картинок. Человек снова сидит перед машиной и пытается чего-то добиться. Только теперь ему кажется, что он творит.
Но если всё творчество сводится к разговору с машиной, а результатом становится очередной гладкий ролик, очередная мёртвая песня, очередная картинка без внутренней необходимости — это не освобождение человека.
Это рабство.
Нейросеть не должна заменять человека там, где нужен человек.
Она должна помогать человеку не потерять себя как человека.