В OpenAI появился «пост на случай катастрофы ИИ»

OpenAI запустила поиск Head of Preparedness — человека, ответственного за оценку экзистенциальных и прикладных рисков ИИ.

Альтман подчеркнул, что модели развиваются слишком быстро, чтобы игнорировать потенциальные угрозы.

В OpenAI появился «пост на случай катастрофы ИИ»

OpenAI запустила поиск Head of Preparedness — человека, ответственного за оценку экзистенциальных и прикладных рисков ИИ. Компания ищет специалиста, который будет заниматься выявлением и смягчением угроз, связанных с развитием искусственного интеллекта. Эта должность предполагает разработку стратегий и планов реагирования на возможные негативные сценарии, включая непредвиденные последствия быстрого прогресса в области ИИ. В задачи Head of Preparedness входит анализ потенциальных угроз, таких как неконтролируемое распространение ИИ, использование ИИ в военных целях, предвзятость алгоритмов и потеря контроля над системами. Специалист должен будет сотрудничать с экспертами в различных областях, включая этику, безопасность, юриспруденцию и кибербезопасность.

Альтман подчеркнул, что модели развиваются слишком быстро, чтобы игнорировать потенциальные угрозы. Стремительное развитие ИИ, особенно в области больших языковых моделей, вызывает опасения относительно его безопасности и влияния на общество. Существует множество сценариев, которые могут привести к катастрофическим последствиям, от технических сбоев и ошибок в коде до непредсказуемого поведения систем. Например, неверная интерпретация данных, предоставленных ИИ, может привести к ошибочным решениям в медицине или финансах. Также существует риск использования ИИ для создания дезинформации и манипулирования общественным мнением, что может подорвать доверие к информации и институтам. Кроме того, быстрый прогресс в области ИИ ставит под вопрос занятость, требуя переквалификации и адаптации рынка труда.

Назначение Head of Preparedness является демонстрацией серьезного отношения OpenAI к вопросам безопасности ИИ. Компания признает необходимость проактивного подхода к управлению рисками, связанными с развитием ИИ. Этот шаг отражает растущее понимание того, что разработка ИИ не должна ограничиваться только технологическим прогрессом, но и учитывать этические, социальные и экзистенциальные риски. Поиск такого специалиста свидетельствует о стремлении OpenAI к ответственному подходу в разработке и развертывании ИИ, а также о желании обеспечить безопасность человечества в будущем. Ранее OpenAI уже предпринимала шаги в направлении обеспечения безопасности, включая создание команды по безопасности и политике, а также публикацию отчетов о рисках, связанных с ИИ. Новая должность – это логичное продолжение усилий по обеспечению безопасности и предотвращению негативных последствий. Это также является важным сигналом для других компаний, работающих в области ИИ, о необходимости уделять больше внимания вопросам безопасности и этики.