Safe RL обещает агентов, которые не ломают окружение ради награды. На практике разные бенчмарки дают противоположные выводы об одних и тех же алгоритмах. Разбираемся, почему так и что с этим делать.
В феврале 2019 OpenAI показала GPT-2, но полную модель не выложила — испугалась массовой генерации фейков. Через шесть месяцев компания отчиталась, что увидела за это время, и открыла версию покрупнее.
Procgen — набор из 16 процедурно генерируемых игр от OpenAI, где агент обучается на одних уровнях и проверяется на других. Именно на нём становится видно, что RL умеет запоминать, но не переносить навык.
В апреле 2019 бот от OpenAI обыграл чемпионов мира OG со счётом 2:0. За кулисами — 10 месяцев обучения, 128 000 CPU-ядер и алгоритм, который уместился в десяток страниц.
Классическая статистика учит: сложная модель переобучается. Но на нейросетях кривая ошибки делает второй нырок вниз — и это меняет практику подбора размера и длительности обучения.
OpenAI закрепила PyTorch как основной фреймворк для исследований и продакшена. Разбираем, что это значит для рынка, конкурентов и разработчиков, которые выбирают инструмент для своих моделей.
Разработчики ИИ обещают безопасность и честность моделей, но проверить эти заявления снаружи почти невозможно. Индустрия начала собирать инструменты, которые превращают обещания в проверяемые факты.
Внедрение LLM в рабочие процессы не всегда даёт прирост производительности. Разбираем, где ИИ действительно ускоряет команды, а где превращается в дорогой генератор технического долга.
Microscope от OpenAI — открытая коллекция визуализаций нейронов внутри классических моделей компьютерного зрения. Инструмент до сих пор используют в интерпретируемости, хотя обновлений давно нет.
GPT-подобные модели пишут доказательства на Lean и Coq не хуже аспирантов-математиков на простых задачах. Разбираем, как это устроено, сколько стоит и почему до серьёзной математики ещё далеко.
Исследование OpenAI 2020 года показало: модель на 1,3 млрд параметров, обученная на человеческих оценках, пишет краткие пересказы лучше модели в 10 раз больше. Ключ — обучение с подкреплением по фидбеку людей.
Классические тесты на устойчивость проверяют модели против атак, которые уже известны. Но в реальности злоумышленник придумывает что-то новое. Разбираем, как индустрия учится к этому готовиться.