В Оксфорде испытали нейросеть с 530 млрд параметров — и она предупредила об опасности ИИ

Специалисты Оксфордского университета устроили конференцию с участием искусственного интеллекта (ИИ). Разработанная учеными нейросеть базировалась на языковой модели Megatron-Turing NLG (крупнейшая в мире генеративная ИИ-структура с 530 млрд параметров). Для обучения эксперты «скормили» ей всю «Википедию» на английском языке, 63 млн статей из интернета за 2016-2019 годы и архив с тредами Reddit объемом 38 Гб. В ходе общения между людьми и машиной обсуждалась этичность ИИ. Последний озадачил присутствовавших, предупредив о собственной опасности.

ИИ попытался убрать себя из сценария будущего, посчитав, что это единственный способ защитить человечество. Megatron Transformer добавил, что в долгосрочной перспективе «лучшим ИИ будет тот, который встроен в наш мозг, «сознательный ИИ».

Источник