Сэм Альтман проговорился: данные о прорыве в развитии ИИ — досадная утечка

Данные о прорыве в развитии искусственного интеллекта (ИИ) были досадной утечкой. Об этом заявил в интервью The Verge глава OpenAI Сэм Альтман.

От более подробных комментариев он отказался.

Во время интервью Альтман неоднократно отказывался отвечать на главный вопрос, который волнует всех: почему его уволили с самого начала, пишет автор. Что касается данных о прорыве в развитии ИИ, то он назвал их досадной утечкой.

«Никаких особых комментариев по поводу этой досадной утечки. Но то, о чем мы говорили две недели назад, то, что мы говорим сегодня, то, что мы говорили год назад, то, что мы говорили ранее, — это то, что мы ожидаем, что прогресс в этой технологии будет продолжать быть быстрым, а также что мы ожидаем, что мы продолжим очень усердно работать, чтобы выяснить, как сделать ее безопасной и полезной. Вот почему мы вставали каждый день раньше. Поэтому в будущем мы будем вставать каждый день. Я думаю, что мы были чрезвычайно последовательны в этом вопросе», — заявил Альтман.

Сэм Альтман фактически подтвердил версию, что его уволили из OpenAI из-за сверхмощной и секретной новой системы искусственного интеллекта, которую он помогал создавать. Об этом, в свою очередь, сообщает телеграм-канал «Политика Страны» со ссылкой на Daily Mail.

Несколько сотрудников предупредили совет директоров компании, что проект под названием Q* («Q звезда») становится настолько продвинутым, что способен сдавать экзамены по математике и выполнять задачи на критическое мышление. Альтман не воспринял их предупреждения всерьез, отмечает издание.

В интервью The Verge Альтман не отрицал существование секретной программы, которая, по словам ряда сотрудников, была причиной его увольнения, хотя такая возможность у него была, он бы мог заявить, что нет никакого Q*, что все это необоснованный слух.

Вместо этого он фактически подтвердил его наличие, заявив: «Никаких особых комментариев по поводу этой злосчастной утечки».

Специалисты, работающие в области искусственного интеллекта, предупреждают, что, как только ученые-компьютерщики добьются создания общего искусственного интеллекта (AGI), он может стать настолько мощным, что люди не смогут с ним справиться, говорится в статье.

«Они могли бы даже рассматривать людей как угрозу, которую необходимо устранить, привлекая интернет и компьютерную инфраструктуру для реализации плана конца света», — отмечает газета.

Подобные опасения согласуются с прогнозами экспертов о том, что однажды ИИ достигнет точки, известной как сингулярность, когда технологии станут настолько мощными и интеллектуальными, что люди не смогут с ними конкурировать, и изменят ход человеческой эволюции. Бывший инженер Google Рэй Курцвейл однажды предсказал, что сингулярность появится к 2045 году.

«После попытки переворота в совете директоров, которая длилась пять дней, Альтман официально вернулся в качестве генерального директора OpenAI в среду», — напоминает The Verge.

Как сообщало EADaily, накануне увольнения Сэма Альтмана с поста гендиректора OpenAI несколько штатных исследователей компании направили совету директоров письмо с предупреждением о важнейшем открытии в области искусственного интеллекта, которое потенциально могло бы угрожать человечеству. Об этом со ссылкой на два осведомленных источника передавало Reuters.

По их словам, письмо стало «последней каплей» в длинном списке жалоб совета директоров к Альтману и в конечном итоге привело к его увольнению. Один из собеседников агентства уточнил, что исполнительный директор Мира Мурати в разговоре с сотрудниками упоминала о проекте под названием Q* (Q-Star), о котором, вероятно, и шла речь в том письме.