Для контроля ИИ предложили создать организацию наподобие МАГАТЭ

Ferra.ruиещё 113 июня, 16:11

Советник премьер-министра Великобритании по вопросам технологий Мэтт Клиффорд, выступая на брифинге, посвящённом технологиям ИИ, выразил опасения, что в течение следующих двух лет ИИ достигнет такого развития, что «сможет убить множество людей».

© Ferra.ru

Клиффорд отметил, что «два года» — некоторое преувеличение, но риски, о которых он говорит, «отличаются от нуля». По его словам, это экзистенциальная угроза: искусственный интеллект может создать биологическое и кибероружие, способное убить огромное количество людей и в целом причинить много зла. Важно и то, что развитие ИИ идёт опережающими темпами.

Эксперт подчеркнул, что необходимо ввести строгое лицензирование деятельности в сфере ИИ и разработок таких технологий. Также необходима организация, аналогичная МАГАТЭ, для контроля над нейросетями, так как «сейчас мы не знаем, как это сделать».

«Говоря о биооружии или кибератаках, чрезвычайно серьёзные угрозы, которые могут стоить жизни множеству людей, пусть и не всем сразу, легко могут возникнуть на том этапе, где модели ИИ будут находиться в своём развитии в пределах двух лет. Главное, на мой взгляд, на чём надо сосредоточиться, так это на том, как обеспечить контроль над этими моделями. Потому сейчас мы не знаем, как это сделать», — заявил Клиффорд.

Наука и техника, МАГАТЭ1Ferra.ru: главные новости