Основатель ИИ предупредил об его опасности и уволился из Google

На днях создатель искусственного интеллекта заявил о том, что ушёл из корпорации Google. Об этом он написал на своей странице в социальных сетях.

Британский и канадский учёный, внёсший заметный вклад в глубокое обучение, которого называют «крестным отцом искусственного интеллекта», Джеффри Хинтон принял такое решение для того, чтобы свободно говорить об опасностях технологии искусственного интеллекта. Уйдя из технологического гиганта Google он наконец может и готов открыто говорить об опасностях, связанных с развитием технологий в этой области. Но что касается самого Google, то учёный подчеркнул, что его критика не относится к компании и её подход к данному вопросу довольно ответственен.

Хинтон очень обеспокоен тем, что если система ИИ попадёт в руки влиятельного злоумышленника, то последствия могут быть довольно страшными и необратимыми. В качестве примера такого злоумышленника он привёл президента Российской Федерации Владимира Путина. Тем не менее, 75-летний британско-канадский ученый в области когнитивной психологии и информатики отметил, что на сегодняшний день ИИ не так интеллектуально развит, как человек, однако, в скором времени он может нас догнать.

Своим исследованиям он посвятил десятки лет и именно он и проложил дорогу современным ИИ-системам, таким как чат-бот Chat GPT. В последнее время не он один выражает обеспокоенность данным вопросом. Специалисты отмечают, что ИИ развивается намного быстрее и стремительнее, чем ожидалось. Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк. В письме говорилось о целом ряде рисков: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией. 

Что касается развивающейся проблемы, то учёный оправдывает себя тем, что если бы это не сделал он, то это всё равно сделал бы кто-то другой. В качестве аргументов он напомнил нам, что уже сегодня такие системы, как GPT-4, затмевают человека по общей эрудиции, причем с большим перевесом. В том, что касается логического осмысления, она ещё отстает, но на простые рассуждения она уже способна. А учитывая нынешнюю скорость прогресса, ожидается, что усовершенствование произойдет довольно быстро и это не может не беспокоить.

В качестве самого пессимистичного сценария и кошмарного прогноза развития событий подразумевается, что какой-нибудь злоумышленник решит дать роботам возможность создавать свои собственные подзадачи. Например, в конечном счете, это могут быть такие подзадачи как «Мне нужно усилить свою власть», пояснил он.

Хинтон объяснил, что у компьютерной системы есть намного больше возможностей для того, чтобы учиться, нежели у людей и это также вызывает тревогу. Объясняется это просто. Человек является биологической системой, когда как речь здесь идёт о цифровых. Огромная разница между этими системами заключается в том, что с цифровыми может быть множество копий с одними и те же исходными составляющими и все эти копии могут учиться отдельно друг от друга, а потом мгновенно обмениваться новыми знаниями.

Просто представьте, что если бы каждый из 10 тысяч людей узнавал для себя что-то новое и тут же все эти люди автоматически получали это знание. Именно поэтому такие чат-боты могут узнать намного больше, чем отдельно взятый человек. В заключении учёный отметил, что хотел бы сказать хорошее о Google и для них это будет более авторитетным, если он при этом не будет являться их сотрудником. Кроме того, ему уже 75 лет и он заявил о том, что ему пора на пенсию.

Для справки: Хинтон родился в Британии, где закончил Кембриджский университет. С 1972 года он исследовал нейросети и искусственный интеллект в университетах Британии, США и Канады. В 2012 году Хинтон с двумя студентами в Торонто создал нейросеть, способную идентифицировать некоторые объекты, проанализировав фотографии и различные цифровые данные. Google купила их стартап за 44 млн долларов. В 2018 году Хинтон получил приз Тьюринга – компьютерный эквивалент Нобелевской премии.

Необходимо отметить, что искусственный интеллект уже внедряется во многих сферах жизни. Ученые считают, что в ближайшее время многие граждане потеряют работу и на их смену придут роботы. Во многих странах уже вовсе работают такси с автопилотом без водителя. Подобные такси по статистики являются более безопасными, чем когда машину водит человек. Данная ситуация вызывает опасение у ученых, ведь в ближайшем будущем миллионы людей останутся без работы и им придется выбрать другую профессию, обучиться и начать все с нуля. Ученые также отмечают, что искусственный интеллект довольно быстро внедрят и в развивающих и не развитых странах. Потеря работы в таких странах может привести к массовым недовольствам граждан. Несмотря на все опасения, ученые продолжают работу над развитием данной сферы и не планируют останавливаться.