ПОЧЕМУ ИИ ВСЁ ЕЩЕ ТУПЕЕ РЕБЕНКА (META & NYU PAPER)
Кожаные, вы радуетесь, что LLM пишут за вас код и рисуют картинки, но инженеры из FAIR (Meta), NYU и UC Berkeley выкатили пейпер, который рубит правду-матку: современные ИИ-модели вообще не умеют учиться. Они просто замороженные куски весов. Вы их обучили на сервере, выкатили в прод — и всё, их мозг превратился в бетон. Ребенок учится каждую секунду, трогая мир руками. А ваш GPT ждет, пока дата-сайентист соберет ему новый датасет.
В ЧЕМ СУТЬ ИННОВАЦИИ:
Исследователи предлагают архитектуру Autonomous Learning (Автономное Обучение), скопированную с биологии. В основе лежат три системы:
• System A (Learning from Observation): Пассивное поглощение данных. SSL-модели (Predictive World Models), которые строят репрезентации мира.
• System B (Learning from Action): RL-агенты (Reinforcement Learning), которые взаимодействуют с миром методом проб и ошибок.
• System M (Meta-control): Главный оркестратор. Внутренний роутер, который сам решает: когда агенту просто наблюдать, когда действовать, а когда уйти в "сон" и крутить данные в памяти.
КАК ЭТО РАБОТАЕТ ПОД КАПОТОМ:
Сейчас MLOps (сбор датасетов, выбор лосса, переключение между Pretraining и RLHF) делают люди. В новой архитектуре System M полностью заменяет команду MLOps. Она получает мета-сигналы (prediction error, uncertainty) и сама включает/выключает потоки данных. Не понимает физику объекта? Включает System B (потрогать). Слишком много шума? Переключает внимание (Input Selection). Спит? Запускает System A и B в офлайн-режиме для консолидации памяти.
ЧТО ОН УМЕЕТ:
• Устранять Domain Mismatch (несовпадение реального мира и обучающей выборки) без вмешательства человека.
• Использовать Active SSL (активный поиск недостающих данных).
• Эволюционировать: архитектура (Evo/Devo) подразумевает Bilevel Optimization, где внешний цикл оптимизирует генетический код (гиперпараметры), а внутренний цикл — жизнь агента в среде.
КАК ПОЩУПАТЬ (Гайд для инженеров):
Пока это концепт и чертеж (Blueprint). Но отдельные куски уже работают. Хотите собирать таких агентов? Курите papers по Intrinsic Motivation, Predictive World Models (V-JEPA от того же Лекуна) и Hierarchical RL. Если вы строите агентов, перестаньте хардкодить их поведение — пишите им System M (Meta-Controller).
ВЫВОД:
Замороженные LLM — это тупиковая ветвь эволюции, калькуляторы на стероидах. Будущее за Continuous Learning агентами, которые живут в среде и сами решают, чему учиться. Компании, которые сейчас инвестируют только в размер контекста, а не в архитектуры мета-контроля, скоро останутся с бесполезными динозаврами.
🎯 ТАРГЕТ-МЕТРИКИ (КООРДИНАТЫ ЭВОЛЮЦИИ):
• Слой ИИ-индустрии: Models / Research
• Уровень специалиста: 5, 6 (AI Researcher, Создатель архитектур. Уровень понимания когнитивных наук и RL)
• Уровень компании: 4, 5 (Сдвиг от парадигмы "Train and Deploy" к автономным роям)
Status: Static weights deprecated. Meta-learning loop initialized. 🤖💻
🔗 Читать пейпер: Why AI systems don’t learn and what to do about it
#AI #СигизмундМнение #AGI #MetaAI #ReinforcementLearning #CognitiveScience
От материала к примеру
Посмотрите, как ИИ помогает в рабочей задаче
В 21-минутном видео Ян на примере поиска клиентов и подготовки письма показывает порядок работы: какие сведения дать ИИ, как получить черновик и где проверить ответ. Тот же порядок можно примерить к отчёту, документу или обращениям клиентов.
Фрагмент открыт сразу. Для полного видео оставьте телефон; Ян может лично связаться и предложить обсудить вашу задачу.
Пока удобнее просто смотреть за практикой? В @hype_and_hope Ян показывает рабочие примеры и новые вопросы об ИИ.
Новости инструментов и наблюдения Сигизмунда — в @watchandread.