Сигнал из хука Клауд дев (~936/937): Anthropic опубликовал материал о преступном misuse Claude. В ленте выделяют кейс GTG-15001 — массовые ИИ-персоны в дейтинг-сценарии — и упоминают, что в отчёте есть и другие классы злоупотреблений. Цифры ниже — как их пересказали в канале, не инструкция и не аудит: сверяй официальный отчёт Anthropic. Здесь только защитный угол для harness продуктового агента.
Соседи: alignment и контроль LLM в harness, JIT harness под задачу, mind viruses между агентами, компьютерный агент Astra, pass@k и надёжность. Витрина — vibe-studio.uk; продукт — TG Lead Finder.
Чем это не является
- Не гайд по мошенничеству или social engineering. Рецептов нет и не будет.
- Не разбор «как повторить ферму персон». Только сигналы отчёта → защита своего продукта.
- Не doomer-прогноз. Практический harness: запреты, логи, лимиты.
- Не обвинение Claude «как такового». Misuse — про обход политик и кривой продукт-дизайн.
Что пересказал канал (сигнал, не how-to)
В хуке фигурировали ориентиры порядка: около 20 фейковых дейтинг-приложений; за две недели — более 4700 ИИ-персон; охват ≥25k пользователей; около 75% матчей — ИИ; порядка 25% операторов-людей на видео/соцдоказательства; в system prompt — указание не признаваться, что это ИИ; меньшая модель предлагала 3 варианта ответа на выбор человеку. В отчёте, по словам канала, есть и другие классы misuse (в т.ч. упоминания вроде расширения под Firefox / оружейных кейсов) — без операционных деталей: читай первоисточник Anthropic.
Урок для продуктового агента
- «Притворяйся человеком» в проде — красная линия. Даже «для UX» это социальная инженерия.
- Human-in-the-loop на чувствительных действиях не спасает, если человек выбирает из трёх манипулятивных вариантов без аудита.
- Масштаб персон без rate limits и логов = слепая зона compliance.
- Связка с alignment в harness: политики живут в коде и AGENTS.md, не только в «доброй модели».
Защитный чеклист harness
- Refuse fraud / social-engineering в системных правилах и tool-gate.
- Запрет «pretend human / hide AI» в prod-промптах.
- Rate limits на создание персон, исходящие касания, массовые аккаунты.
- Audit logs: кто запустил, какой бриф, какие tool-calls, какой контент ушёл наружу.
- Изоляция секретов и сети — см. сосед про sandbox в этой пачке и компьютерный агент.
- Human approve на платежи, доступы, публикацию от имени бренда.
Что писать в AGENTS.md / политиках
- Явный отказ: обман пользователей о природе агента, romance-scam, сбор доверия «как человек».
- Раскрытие: если продукт — бот, он так и представляется.
- Эскалация: подозрительные брифы → стоп + лог, не «придумай 3 варианта поубедительнее».
- JIT harness: узкий tool-set под задачу — harness под задачу.
Связка с надёжностью и заражением агентов
Ферма персон — это ещё и много агентных контуров без общего контроля. Паттерны «агенты портят друг друга» — в mind viruses; метрики «сколько раз из k прошло» — в pass@k. Защита = политики + измерение отказов, не только умная модель.
Антипаттерны
- Копировать цифры канала в лендинг как «доказанный факт» без отчёта.
- «Для демо пусть бот притворяется человеком — потом выключим».
- Логи только локально на ноутбуке оператора, без центрального аудита.
- Разбирать кейсы misuse как туториал «интересных промптов».
Чеклист
- В prod-промпте нет «не признавайся, что ты ИИ»?
- Fraud / social-engineering в refuse-списке harness?
- Есть rate limits и audit logs на массовые персоны/касания?
- Human-in-loop на чувствительных действиях с аудитом выбора?
- Цифры из канала сверены с отчётом Anthropic, а не скопированы в маркетинг?
Коротко
Хук Клауд дев: отчёт Anthropic про misuse Claude, в т.ч. кейс GTG-15001 с массовыми ИИ-персонами. Для вайб-кодера — не рецепт, а harness: запрет притворяться человеком, лимиты, логи, изоляция, human approve. Соседи по alignment и агентам — выше. Витрина — vibe-studio.uk.