Поиск в интернете тоже косячил. Подсовывал мусорные ссылки, прятал нужные ответы на третьей странице, обманывал заголовками. Но это всегда воспринималось как норма. Вы что-то гуглили, сами копались в ссылках и сами же решали, чему верить.
С нейросетями всё иначе. Они минуют путь к ответу и сразу выдают нужное — аккуратненькое и вылизанное. Зачем пролистывать десять видов рецептов борща или искать видосы на тему «Как открыть вино без штопора», если можно спросить иишку и она составит инструкцию.
Удобно, время экономит. Так чего бесимся-то?
Чего-чего… Ответы-то не всегда правдивые. А сейчас нейронка мало того, что в уши может нехило насвистеть, так ещё и доказывать будет, что это вы неправы — в своих ответах она уверена. Поисковики себе такого не позволяли.
Да, он мог не довести до ответа. Но зато он не делал вид, что уже всё проверил. А в случае с нейронкой не так: если инфы в доступе нет, иишка её заботливо допридумает.
Представим, что мы учим нейросеть предсказывать следующее слово в предложении. Даём ей контекст: «Меня зовут…» — и нужно предсказать имя. Она предскажет что-то вроде Маша, Даша, Настя, Миша, Саша — что-то распространённое. А человека на самом деле зовут, например, Иннокентий. Этого она не угадает и даст наиболее вероятный ответ.
Нейронка ошибается потому, что нейронные сети учатся находить статистические закономерности — предсказывают вероятности. Они не предлагают на 100% правильный ответ. Зато выдают наиболее вероятный, тот, который звучит правдоподобно.
Анастасия Янинаспециалистка по машинному обучению, преподаватель в МФТИ и экс-руководитель департамента LLM в Wildberries
Вот в этом «допридумать» и засада. Вам уверенно говорят о том, что информация верная → вы получаете иллюзию того, что вопрос решён. Конечно, если вы не перепроверяете абсолютно каждый ответ. В этом случае вы — молодец, и не попадётесь на уловки нейросетевого фантазёра.
Проблема ИИ даже не в том, что он ошибается. Ошибаются все. Проблема в том, что он ошибается в формате готового решения.
Освойте то, что уже сейчас нужно рынку, — со скидкой в апреле. Забирайте промик на 15% на все курсы Практикума и погнали!
Где нейросеть правда экономит время
Там, где вам нужен не окончательный вердикт, а быстрый черновик.
Час ночи. Ибрагим дописывает отклик на вакансию. В разных вкладках открыты резюме, сопроводительное, куча вакансий. В заметках — каша из навыков, проектов и обрывков фраз.
Ибрагиму не нужен идеальный текст (хотя хотелось бы!). Ему просто надо собрать всё в кучу. Нейронка вполне справилась с разгребанием бардака, структуризацией и оформлением текста. Осталось немножко отредактировать и причесать — и оформлять в итоге не стыдно.
Переформулировать письмо, собрать выжимку, разгрести хаос из тезисов, набросать структуру, подсобрать варианты, помочь с сопроводительным или резюме — на таких задачах нейросеть правда экономит время. Сюда же — обзоры и ресёрч. Всякое грязненькое, что вы потом дочистите руками.
Что лучше проверять руками
Где есть риск ошибиться — проверяйте.
Визы, записи, актуальные правила, деньги, медицина, юридические и миграционные нюансы, важные покупки. Вряд ли вы хотите спланировать поездку в экзотическую страну, оплатить билеты и брони, а в аэропорту узнать, что никуда вы не поедете — нужна виза.
Решил Ибрагим телефон купить. Нейронка подсобрала ему варианты. Ибрагим вошёл во вкус и спросил, где сейчас самая выгодная цена. Нейросеть бодро посоветовала магазин.
Через десять минут выяснилось, что цена была из старой акции, нужной версии уже нет в наличии, а по ссылке вообще продаётся другая комплектация.
Просите нейросеть прикладывать источники, из которых она взяла информацию. Она их приведёт, и вы сможете всё перепроверить.
Анастасия Янинаспециалистка по машинному обучению, преподаватель в МФТИ и экс-руководитель департамента LLM в Wildberries
Фильтр простой: если ошибка стоит вам нервов, денег, здоровья, сорванного дедлайна или повторной поездки через весь город, ответ надо перепроверять.
Что лучше вообще не загружать
Рядом с удобным интерфейсом люди очень быстро расслабляются. Сначала просят подшлифовать резюме. Потом написать сопроводительное письмо. А затем — заполнить паспортные данные в трудовом договоре.
Вот до этого лучше не доходить.
Не тащите в нейросеть паспорт, личные документы и чувствительные данные. Это базовая цифровая гигиена.
Чего нам всем не хватает
Наверное, самой полезной функции: чтобы нейросеть умела честно сказать «я не знаю». Просто признать границу.
А можно ли её этому научить, рассказывает Анастасия в новом выпуске «Репортажа на диване» — программе комика Михаила Кострецова и Яндекс Практикума об искусственном интеллекте, который уже стал частью повседневности.
