Сингапурский консенсус — это новый шаг к доверенному и безопасному ИИ. Пока гиганты вроде OpenAI скрывают детали, учёные предлагают открытый подход. 🤖🔒 Интересно, кто кого переиграет?
В рамках международной конференции в Сингапуре свыше 100 ведущих исследователей искусственного интеллекта разработали «Консенсус по безопасности AI», устанавливающий стандарты для создания более надежных, безопасных и прозрачных систем ИИ. Документ «The Singapore Consensus on Global AI Safety Research Priorities» подчеркивает необходимость количественной оценки рисков, разработки методов контроля и повышения устойчивости нейросетей к злоупотреблениям. Среди участников — лидеры MILA, DeepMind, MIT, Google и Microsoft. В статье рассматриваются ключевые технические вызовы, такие как предотвращение самоподдерживающихся целей, управление сложными системами и защита интеллектуальной собственности. Обсуждаются перспективы инвестиций в безопасность AI и роль глобальных стандартов для формирования ответственной исследовательской среды.
