OpenAI сократила время тестирования своих ИИ-моделей с месяцев до дней. Команда уверена, что это ускорит разработку. Но некоторые сотрудники опасаются последствий: «Это рецепт катастрофы» 🤯. Что думаете — гонка за скоростью оправдана?
OpenAI радикально ускорила процесс тестирования своих AI-моделей — теперь на оценку безопасности уходят дни вместо прежних месяцев. По данным Financial Times, тестировщики получили всего несколько дней на проверку новых моделей, тогда как раньше на аналогичные задачи выделялось до полугода. Например, для GPT-4 тесты длились шесть месяцев, и критичные уязвимости обнаружились лишь через два месяца. Внутренние источники называют новый подход «безрассудным» и «рецептом катастрофы», отмечая снижение качества проверок. Основная причина ускорения — жесткая конкуренция на рынке ИИ, особенно с открытыми моделями вроде DeepSeek. OpenAI планирует выпустить o3 уже на следующей неделе, что потребовало сокращения тестов до менее чем недели. Отсутствие госрегуляции AI-разработок усугубляет ситуацию: добровольные соглашения с US AI Safety Institute при администрации Байдена были отменены, а новые стандарты ЕС (EU AI Act) пока не вступили в силу. Представитель OpenAI утверждает, что компания сохраняет баланс между скоростью и тщательностью проверок, но тестировщики указывают на пробелы в методологии, включая оценку упрощенных версий моделей и ссылки на тесты предыдущих версий вместо полноценной проверки новых. Эксперты предупреждают о рисках ускоренного тестирования, особенно для моделей с потенциально опасными возможностями, такими как создание инструкций для биологического оружия.
