Вероятность уничтожения человечества руками ИИ достигает 20% — ученые

Джеффри Хинтон, почетный профессор Университета Торонто и один из основателей современного искусственного интеллекта, заявил, что вероятность уничтожения человечества ИИ в течение ближайших 30 лет составляет от 10% до 20%. В интервью он подчеркнул, что технологии развиваются «гораздо быстрее», чем ожидалось.

Учёный сравнил людей с трехлетними детьми по сравнению с потенциальным интеллектом ИИ, указывая, что история не знает примеров, где более разумное существо подчинялось менее разумному. Исключением он назвал отношения между матерью и младенцем, подчеркивая уникальность этой ситуации.

Хинтон покинул Google в 2023 году, чтобы открыто высказываться о рисках ИИ. Он предупредил, что неконтролируемое развитие технологий может стать экзистенциальной угрозой, если такие системы выйдут из-под человеческого контроля или попадут в руки «плохих акторов». С его мнением о вероятности войны с ИИ согласны многие исследователи.

Особое внимание ученый обратил на проблему создания общего искусственного интеллекта (AGI), который, по его словам, может превзойти человеческий интеллект в течение ближайших двух десятилетий. Такой сценарий он назвал «очень страшной мыслью», подчеркивая важность государственного регулирования.

Противоположной точки зрения придерживается Янн Лекун, коллега Хинтона и главный специалист по ИИ в Meta. Он утверждает, что ИИ не только не представляет угрозы, но и способен спасти человечество от вымирания, например, за счет решений климатических и демографических проблем.

Хинтон призывает к немедленным мерам регулирования, подчеркивая, что рыночные силы недостаточны для обеспечения безопасного развития технологий. Он уверен, что без участия государств компании не будут уделять должного внимания исследованиям в области безопасности.

Вопрос регулирования ИИ остается ключевым для будущего этой технологии. Пока мнения экспертов расходятся, страхи о возможной угрозе со стороны ИИ продолжают привлекать внимание правительств и широкой общественности.