ИИ: за, против и мелкий шрифт

Где нейросети правда экономят время, где уверенно ошибаются и что происходит с тем, что ты им отправляешь. Без восторгов и без паники.

Об ИИ сейчас говорят в двух тонах: либо «он заменит всех к следующему четвергу», либо «это просто продвинутое автодополнение, расходимся». Оба неправы, и оба мешают разобраться в главном: для каких задач его стоит брать, для каких нет, и во что это обходится.

Разложим по полочкам.

За

Черновик за минуту вместо часа

Самое честное применение — первая версия. Синопсис, план ролика, описание релиза, пост для анонса, список вопросов для интервью. Модель не напишет идеально, но пустой лист перестаёт быть пустым, а править всегда легче, чем начинать.

Большие тексты — в сжатом виде

Сорок страниц технического задания, переписка на сто писем, протокол на час. Выжимка, список сроков и сумм, «чем вторая редакция отличается от первой» — модель делает это быстро и без усталости. Ключевое слово — выжимка: решение по-прежнему принимаешь ты, но теперь понимаешь, куда смотреть.

Вход в незнакомую тему

«Объясни, что такое аккредитив, как будто я бухгалтер, а не банкир». Модель — терпеливый собеседник, который не закатывает глаза на десятый уточняющий вопрос. Для первого знакомства с темой это отличный старт. Для последнего слова — нет, об этом ниже.

Рутина и код

Регулярные выражения, формулы в таблицах, скрипт «переименовать 300 файлов по дате», перевод технического текста. То, что ты умеешь, но делать скучно, и то, что проверяется запуском: сработало или нет.

Всегда на месте

Не устаёт, не уходит в отпуск, не обижается на «переделай ещё раз». Для рутины это дорогого стоит.

Против

Уверенно ошибается

Главное, что нужно знать про языковые модели: они выдают правдоподобный текст, а не проверенный. Если модель чего-то не знает, она чаще всего не скажет «не знаю» — она сочинит. Со ссылками на несуществующие законы, выдуманными цифрами и цитатами людей, которые такого не говорили. Причём тем же уверенным тоном, что и правду.

Отсюда правило: всё, что пойдёт дальше тебя — в документ, клиенту, руководству, — проверяется по первоисточнику. Особенно цифры, даты, номера статей и фамилии.

Ответственность не делегируется

«Так сказала нейросеть» — не аргумент ни для начальника, ни для суда, ни для проверяющих. Подпись под документом всё ещё твоя. Модель — инструмент, как калькулятор: если ввёл не те числа, калькулятор не виноват.

Данные уходят туда, куда ты их отправил

Вот тут начинается мелкий шрифт. Когда ты вставляешь текст в облачный чат-бот, он уходит на чужой сервер. Что с ним будет дальше — хранится ли, сколько, кто может прочитать, используется ли для дообучения — написано в пользовательском соглашении. Которое, будем честны, никто не читал.

Классический сценарий: автор вставляет в публичный чат-бот сценарий, который ещё никто не видел, и текст трека до релиза — «просто проверить формулировки». Формулировки проверены. Где теперь лежит неизданный материал — вопрос открытый. А потом этот же автор очень удивляется, откуда в сети утёк его припев.

Простой тест: если этот текст нельзя переслать на личную почту незнакомому человеку, его нельзя вставлять и в облачный чат-бот. Это одно и то же действие, просто второе выглядит безобиднее.

Навык атрофируется

Если модель пишет за тебя все письма, через год ты пишешь письма хуже. Если она всегда делает выжимку, ты разучиваешься быстро читать длинное. Это не повод отказываться, но повод понимать, какие навыки ты готов отдать, а какие — нет.

Текст становится одинаковым

Модели пишут гладко и узнаваемо: «важно отметить», «в современном мире», три пункта в каждом списке. Когда так пишут все, это считывается — и доверие к тексту падает. Черновик от модели нужно переписывать своим голосом, а не просто вычитывать.

Проверка съедает выигрыш

Модель сделала работу за минуту, ты проверял её полчаса — и нашёл две ошибки. Бывает, что быстрее было сделать самому. Выигрыш реален там, где проверить проще, чем сделать: код запускается, выжимка сверяется с оглавлением, черновик читается за минуту.

Зависимость от чужого сервиса

Облачный сервис могут сделать платным, поменять условия, ограничить доступ из твоей страны или просто уронить в день дедлайна. Если процесс в компании держится на чужом чат-боте, это точка отказа, о которой мало кто думает, пока она не отказала.

А если модель своя?

Часть проблем снимается, если модель работает на твоём компьютере или сервере компании. Данные никуда не уходят, условия никто не поменяет, доступ не отключат.

Но честно о минусах:

• Локальные модели слабее самых больших облачных. Для выжимок, черновиков и работы с документами их обычно хватает; для сложных рассуждений — не всегда.
• Нужно железо. Приличная модель хочет видеокарту с хорошим объёмом памяти или мощный сервер.
• Нужно кому-то этим заниматься: поставить, обновлять, следить.
• Врать они умеют так же. Локальность решает вопрос приватности, но не вопрос достоверности. Проверять по-прежнему нужно.

Для работы с внутренними документами это часто разумный компромисс. Собственно, ради этого мы и делаем ZmNx·AI.

Короткая шпаргалка

Итог

ИИ — не волшебник и не игрушка. Это мощный инструмент для черновой работы, который уверенно ошибается и помнит всё, что ему отправили. Пользуйся им там, где проверить быстрее, чем сделать, не отдавай ему последнее слово и не показывай ему то, что не показал бы незнакомцу.

А пароль со стикера всё-таки убери. Если «сложный» не запоминается — возьми фразу: «Ленивый барсук по пятницам шифрует пельмени на даче» запомнить проще, чем «Qw3!rty», а подобрать — несравнимо дольше.