12+
Оглавление - Право на суждение
Агентность как принцип проектирования ИИ-систем
- Введение. Право на суждение
- Часть I. Изъятие агентности
- Глава 1. Что такое агентность в ИИ-системе
- 1.1. Интеллект системы: в приложении или в модели
- 1.2. Агентность как контроль над суждением
- 1.3. Чем агентность НЕ является
- 1.4. Единица анализа: одно решение — чьё суждение?
- Глава 2. Флагманский случай: инъекционный RAG
- 2.1. Инъекция против агентного извлечения
- 2.2. Четыре изъятые способности
- 2.3. Почему тюнинг пайплайна этого не лечит
- 2.4. Модель как пассивный получатель контекста
- Глава 3. Паттерн целиком: таксономия изъятия
- 3.1. «Что делать»: оркестраторы и роутеры намерения
- 3.2. «Повторить ли»: одноходовые конвейеры
- 3.3. «Как ответить»: форс-вызовы, жёсткие схемы, шаблоны
- 3.4. «Что помнить»: внешнее управление памятью и суммаризация
- 3.5. «Действовать ли»: гейты автономии
- 3.6. Общий знаменатель: замороженное чужое суждение
- Часть II. Почему пора
- Глава 4. Что изменилось
- 4.1. Почему раньше изымали по необходимости
- 4.2. Способности, изменившие баланс
- 4.3. От «модель не справится» к «справится, если дать»
- 4.4. Порог способности: почему агентность — про фронтир-класс
- Глава 5. Старый дефолт как потолок — и разворот рамки
- 5.1. Система не умнее своей самой жёсткой части
- 5.2. Хрупкость и стоимость сопровождения при масштабировании
- 5.3. Непредусмотренные запросы: где контроль становится клеткой
- 5.4. Свобода как дефолт, ограничение как исключение
- 5.5. Как это переворачивает процесс проектирования
- Часть III. Как отдать агентность
- Глава 6. Инструменты как интерфейс агентности
- 6.1. Инструмент как возвращённое суждение
- 6.2. Как модель узнаёт о доступных способностях
- 6.3. Унифицированный доступ: механизм, а не самоцель
- 6.4. Хорошее описание инструмента как проектирование
- 6.5. Схема вывода: структура без изъятия выражения
- Глава 7. Агентное извлечение: RAG, отданный модели
- 7.1. Извлечение как инструмент, а не как подкладка
- 7.2. Управляемый поиск: переформулировать, повторять, комбинировать
- 7.3. Детерминизм без пассивности
- 7.4. Когда извлечение обязательно, а когда опционально
- Глава 8. Агентная петля: планирование, итерация, память
- 8.1. Цикл обратной связи вместо одного выстрела
- 8.2. Самокоррекция и декомпозиция задач моделью
- 8.3. Границы без изъятия суждения
- 8.4. Кто решает, что релевантно: память под контролем модели
- 8.5. Скрытое изъятие: суммаризация до модели
- Часть IV. Честная цена
- Глава 9. Риск пути: недетерминизм и безопасность
- 9.1. Свобода решать = свобода ошибаться
- 9.2. Ограничение без изъятия
- 9.3. Инструменты как расширение поверхности атаки
- 9.4. Доверенные и недоверенные сценарии: изъятие как защита
- 9.5. Наблюдаемость: видеть путь модели
- Глава 10. Цена пути: стоимость и оценка
- 10.1. Цена лишних раундов
- 10.2. Как оценивать систему с недетерминированным путём
- 10.3. Когда агентность не окупается (и когда фронтир избыточен)
- Часть V. Методология: осознанное изъятие
- Глава 11. Спектр и критерий
- 11.1. Полюса и осознанная середина
- 11.2. Критерий: кто вынесет суждение лучше
- 11.3. Гигиена против потолка
- 11.4. Аудит: где живёт каждое суждение
- 11.5. Лекарство — тоже изъятие
- 11.6. Класс модели как ось выбора: соответствие способности и агентности
- Глава 12. Паттерны и антипаттерны
- 12.1. Паттерны возвращённой агентности
- 12.2. Антипаттерны унаследованного изъятия
- 12.3. Ловушка слабой модели: винить парадигму вместо способности
- 12.4. Как отличить намеренное от случайного
- Эпилог. Дорога вперёд
- Э.1. Смещение баланса со временем
- Э.2. Что уйдёт, а что останется навсегда
- Э.3. Мышление, переживающее смену моделей
- Глоссарий