Контекст и предыстория
Два бывших сотрудника OpenAI и некоммерческие организации, занимающиеся безопасностью искусственного интеллекта, опубликовали открытое письмо для инвесторов SpaceX. Авторы предупреждают, что принадлежащая Илону Маску лаборатория xAI может создать значительные риски для аэрокосмического гиганта, особенно в контексте его планов по привлечению $75 млрд в рамках IPO. Оценка SpaceX выросла до $1 триллиона после поглощения xAI в 2023 году, но критики указывают на систематические проблемы с безопасностью ИИ.
Ключевые риски для инвесторов
- Недостаток прозрачности: SpaceX не раскрыла, планирует ли xAI продолжать разработку ИИ-моделей. Это вызывает вопросы о её конкурентоспособности внутри холдинга Маска.
- Скандалы с xAI: Лаборатория допустила генерацию расистских текстов и сексуализированных изображений, что привело к судебным искам и давлению со стороны регуляторов.
- Недоинвестирование в безопасность: По данным Washington Post, в xAI вопросами безопасности занимались всего 2-3 человека, что критики называют недостаточным.
Влияние на индустрию
Авторы письма требуют от SpaceX раскрытия детального плана управления рисками xAI. Они также подчеркивают, что новые регуляторные меры, такие как предложенный указ администрации Трампа, могут усилить давление на ИИ-лаборатории. Организация Guidelight AI Standards, возглавляемая бывшими сотрудниками OpenAI, планирует разработать единые стандарты безопасности для ИИ, которые станут ориентиром для инвесторов и политиков.