ИИ ускоряет работу, но и ошибки тоже. Узнайте, как использовать LLM без потери критического мышления. Практические советы внутри.
Вы когда-нибудь доверяли ответу чат-бота, не проверив его? Технологии искусственного интеллекта способны как взлететь, так и упасть. В этой статье разберем, как использовать ИИ для ускорения работы, не теряя критического мышления.
Я видел, как инженеры создают невероятные вещи за считанные часы. И видел, как другие выпускают в продакшн уверенную ерунду с той же скоростью. ИИ не создал ни того, ни другого — он лишь сделал оба процесса проще и быстрее. Называть его множителем — неточно, но это отражает главный риск: ИИ усиливает то, что вы приносите с собой. Чем меньше вы знаете о проблеме, тем сложнее отличить пользу от уверенно поданной ошибки.
Если вы знаете, чего хотите, понимаете задачу и применяете суждение, навыки и опыт, вы можете двигаться со скоростью, которая раньше казалась невозможной. Но если вы отключаете мозг и позволяете машине думать за вас, вы можете создавать катастрофы в мгновение ока. Проблема не в том, что ИИ делает людей глупее. Просто он дает старой глупости более чистый интерфейс, более быструю обратную связь и гораздо больший радиус поражения.
В начале моей карьеры я работал в компании, где один разработчик решил учить ассемблер, потому что «хакеры используют ассемблер, чтобы взломать любую систему». Он утверждал, что, поскольку все в итоге становится машинным кодом, можно взломать сетевые карты всех компьютеров на планете «так, что никто не узнает». Это была уверенность, не подкрепленная знаниями.
В другом проекте заказчик жаловался на неправильные немецкие умляуты в интерфейсе. Вместо «ä» отображалось «ae», вместо «Ü» — «Ue». Оказалось, разработчик сознательно вводил текст так, потому что «использовать клавиатуру с US-раскладкой — это то, что делают хорошие инженеры». А если нужны умляуты, есть email с готовыми символами для копирования.
Эти инженеры не были глупыми. Они доверяли уверенности, а не доказательствам. Их ошибки смешны, потому что их легко заметить, но в незнакомой области плохой совет распознать гораздо труднее. Задолго до LLM люди делегировали суждение уверенным коллегам, ответам на Stack Overflow, блогам или «нигерийскому принцу». Теперь я вижу, как люди вставляют сырые идеи в LLM, получают уверенный, хорошо оформленный текст и принимают его без раздумий. Источник уверенности изменился, и, что важнее, генерировать и действовать на основе этой уверенности стало намного дешевле.
Это не делает LLM бесполезными. При правильном использовании та же машина может быть невероятно ценной. Я начал поддерживать PHP-расширение ext-parallel, которое не писал. Чтобы освоиться в незнакомой кодовой базе, обычно уходят месяцы: чтение исходников, исправление мелких багов, написание тестов. На этот раз я использовал LLM, чтобы ориентироваться в исходниках. Он мог резюмировать архитектуру, указывать, где что находится, и направлять к нужным файлам. Его объяснения давали мне карту, которую я проверял по исходному коду. Я стал продуктивен за недели, а не месяцы. Он справился с объемом, а думать должен был я.
На основной работе я добавил профилирование ввода-вывода в PHP-профилировщик. Это требовало перехвата системных вызовов libc через манипуляции с GOT. Первые несколько хуков я написал сам, установив шаблон. Остальное было повторяющимся: тот же шаблон с разными сигнатурами функций. Я передал эту работу LLM. То, что было бы утомительным механическим набором, заняло минуты.
Я знал, что и зачем перехватывать. Я понимал механизм GOT, архитектуру и риски. LLM взял на себя повторение и поиск. Он не заменил мое суждение и мышление.
Это не значит, что только эксперты могут использовать LLM. Они помогают учиться и делают незнакомую работу доступной. Но если вы пока не можете сами оценить ответ, вам нужна более сильная обратная связь: читайте первоисточники, запускайте тесты, просите ревью, делайте маленькие обратимые изменения. Суждение можно развить, но его нельзя делегировать.
Урок из тех старых историй не в том, чтобы не учить ассемблер и не использовать US-клавиатуру (я и то и другое делаю). Урок в том, что уверенность — это не компетентность. Если вы не привносите собственное суждение, всегда найдется что-то, готовое его заменить: коллега, твит, пост в блоге или большая языковая модель. LLM может ускорить вашу работу и обучение. Он также может ускорить ваши ошибки. Понимать, что происходит, — ваша работа.
Прямо сейчас попробуйте применить один из советов: возьмите задачу, которую вы обычно доверяете ИИ, и проверьте его ответ через первоисточник или тест. Это укрепит ваше критическое мышление и сделает вас более сильным разработчиком.
Хочешь закрепить знания на практике?
Решай задачи на Algolit — интерактивная платформа для обучения
Начать бесплатно →