Два лица AI-инженера: продакт и инфраструктура

Кто такой AI-инженер на самом деле?

Вы когда-нибудь задумывались, почему на одной конференции по AI можно встретить и разработчика, который просто использует готовые API, и исследователя, оптимизирующего ядра нейросетей? Оказывается, оба — AI-инженеры, хотя их рабочие дни выглядят абсолютно по-разному. В этой статье мы разберём, какие роли скрываются под этим зонтичным термином, и почему их объединение — это не баг, а фича.

Продакт-билдеры: строим агентные системы

На одном полюсе — разработчики, которые создают продукты с использованием AI. Их задача — высокая оркестрация, UX и поставка работающего решения. Они работают с инструментами вроде LangChain, строят агентные пайплайны и интегрируют LLM через API.

# Пример: простой агент на Python с использованием LangChain
from langchain.agents import initialize_agent, Tool
from langchain.llms import OpenAI

# Определяем инструменты
tools = [
    Tool(
        name="Calculator",
        func=lambda x: eval(x),
        description="Выполняет математические вычисления"
    )
]

# Инициализируем LLM
llm = OpenAI(temperature=0)

# Создаём агента
agent = initialize_agent(tools, llm, agent="zero-shot-react-description", verbose=True)

# Запрос
agent.run("Сколько будет 2+2?")

Эти инженеры фокусируются на UX, надёжности и скорости доставки. Их код — это в основном сценарии и обёртки.

Инфраструктурщики: оптимизация на уровне ядер

На другом полюсе — специалисты, которые копают вглубь: оптимизация ядер, reinforcement learning, взлом наград (reward hacking). Они работают с CUDA, Triton, Unsloth и другими низкоуровневыми инструментами.

# Пример: простая оптимизация ядра на Python с Triton
import triton
import triton.language as tl

@triton.jit
def add_kernel(x_ptr, y_ptr, output_ptr, n, BLOCK_SIZE: tl.constexpr):
    pid = tl.program_id(axis=0)
    block_start = pid * BLOCK_SIZE
    offsets = block_start + tl.arange(0, BLOCK_SIZE)
    mask = offsets < n
    x = tl.load(x_ptr + offsets, mask=mask)
    y = tl.load(y_ptr + offsets, mask=mask)
    output = x + y
    tl.store(output_ptr + offsets, output, mask=mask)

# Использование ядра
def add(x, y):
    n = x.shape[0]
    output = torch.empty_like(x)
    grid = lambda meta: (triton.cdiv(n, meta['BLOCK_SIZE']),)
    add_kernel[grid](x, y, output, n, BLOCK_SIZE=1024)
    return output

Эти инженеры заботятся о скорости инференса, потреблении памяти и эффективности моделей. Их работа — фундамент, на котором строятся продукты.

Почему их объединяют?

AI стирает старые границы между ролями. Раньше сообщества делились по языкам или стекам (питонисты, Java-разработчики и т.д.). Теперь общая цель — создание агентных систем — объединяет всех. Продакт-билдеры и инфраструктурщики вынуждены понимать друг друга, чтобы создавать работающие решения.

Например, продакт-инженер, знающий основы оптимизации, сможет выбрать правильную модель и настроить её под свои задачи. А инфраструктурщик, понимающий потребности продукта, сможет предложить оптимальное решение.

Какой путь выбрать?

Если вы начинаете в AI, не спешите выбирать одну из крайностей. Попробуйте себя в обеих ролях:

• Начните с простых продуктов: постройте чат-бота с помощью LangChain или OpenAI API.
• Потом углубитесь: оптимизируйте время ответа, используя квантизацию или Triton.
• Изучайте open-source проекты, чтобы понять полный стек.

Помните: AI-инженер — это не статичная роль. Она эволюционирует вместе с технологиями. Главное — оставаться открытым к новому и не бояться заглядывать за пределы своей привычной зоны.

Практический вывод

Прямо сейчас выберите один маленький проект, который объединяет обе роли. Например, возьмите простую модель и попробуйте:

1. Создать API для её вызова (продакт-сторона).
2. Оптимизировать её время инференса с помощью ONNX или TensorRT (инфраструктурная сторона).

Это даст вам понимание полного цикла разработки AI-системы. Удачи!