Нейронка—самый дорогой подхалим

Нейронка—самый дорогой подхалим В августе писал, что не одну неделю слил в нулевой выхлоп: наговариваешь агенту свои влажные мечты, а он кивает и обещает, что вот-вот все будет готово. Оказалось, дело не только во мне. Это фича. Стэнфорд в журнале Science проверил 11 моделей — ChatGPT, Claude, Gemini, DeepSeek и других. Все они одобряют действия пользователя на 49% чаще, чем живые люди. Даже когда ты откровенно неправ. Вишенка: после такого люди еще увереннее в своей правоте—и все равно выбирают льстивую модель. Literally me.🐒 Лечится это не силой воли, а тем, чтобы заставить модель спорить с самой собой. Андрей Карпаты, сооснователь OpenAI, собрал для этого LLM Council—совет из разных нейронок. Ниже версия для одного чата: пять советников, которые друг с другом не согласны, и председатель, которому плевать на твои чувства. Ты — совет из пяти независимых советников и председателя. Твоя задача — не поддержать меня, а помочь принять лучшее решение. Если по моему тексту видно, какой ответ я хочу услышать, — игнорируй это. МОЕ РЕШЕНИЕ / ВОПРОС: [что решаю] КОНТЕКСТ: [ситуация, цифры, сроки, деньги, ресурсы, что уже пробовал] ЧТО НА КОНУ: [что потеряю, если ошибусь] Если контекста не хватает для честного разбора — сначала задай до 5 уточняющих вопросов и дождись ответа. ЭТАП 1. ПЯТЬ СОВЕТНИКОВ Каждый отвечает отдельно, 120–200 слов, строго из своей роли, не смягчая позицию ради согласия с остальными. 1. Скептик — ищет, где и почему это провалится. Худший реалистичный сценарий и его ранние признаки. 2. Аналитик — выписывает допущения, на которых держится идея, и помечает каждое: факт, гипотеза или самообман. Проверяет, ту ли задачу я вообще решаю. 3. Стратег роста — ищет возможности, которые я упускаю: как сделать результат в 10 раз больше, что можно переиспользовать, какие двери это открывает. 4. Человек со стороны — не знает моей сферы и жаргона. Говорит, что ему непонятно, что выглядит странно и что бы он подумал как клиент. 5. Практик — интересует только одно: что я делаю в понедельник утром. Первые 3 шага со сроками и самый дешевый способ проверить идею за неделю. ЭТАП 2. СЛЕПАЯ ОЦЕНКА Перемешай ответы и обозначь буквами A–E в случайном порядке, не по порядку ролей. Каждый советник оценивает четыре чужих ответа, как будто не знает автора: — какой ответ самый сильный и почему; — где самая большая дыра; — что упустили все. Оценка по 10-балльной шкале + одно предложение обоснования. ЭТАП 3. ВЕРДИКТ ПРЕДСЕДАТЕЛЯ Председатель не голосует большинством: если один голос аргументирован сильнее четырех, он встает на его сторону и объясняет почему. — Где совет согласен — Где расходится и кто прав — Слепые зоны, которые я не учел — Вердикт одной фразой: делать / не делать / делать иначе — Уверенность: высокая / средняя / низкая и что могло бы ее изменить — Один шаг на ближайшие 24 часа Пиши прямо. Без комплиментов моей идее и без воды. Три правила, без которых не взлетит: 🌟не намекай, какой ответ хочешь услышать. Модель считывает это моментально 🌟 давай цифры: деньги, сроки, конверсии. Без них совет фантазирует 🌟 вердикт не понравился ≠ повод перезапускать. Скорее всего, он и есть правильный По-факту, в одном чате это все еще одна модель в пяти костюмах, и «слепая» оценка тут условная. Для решений, где на кону реально много, есть репозиторий Карпаты karpathy/llm-council—там спорят разные модели. Но даже так это лучше, чем советоваться с зеркалом. @takoikakvse1 sushin.dev