Искусственный интеллект — это любое аппаратное или программное обеспечение, работающие вместе, которые имитируют действие органического (человеческого) интеллекта. Решая поставленные перед ним задачи, ИИ может принимать множество решений, и некоторые из них могут нести в себе реальную угрозу для нас.
Примером может послужить самоуправляемый автомобиль с не доведенными до совершенства алгоритмами или военный беспилотник, изначально созданный для поражения вражеских целей.
Существует 4 варианта, при которых искусственный интеллект может представлять опасность:
Вариант 1: ИИ создан для уничтожения
Такая машина включает в себя оружие с элементами ИИ и работает без участия человека-оператора. Беспилотные летательные аппараты, использующие когнитивные системы для поиска, идентификации и ликвидации людей, которые попадают под определенные признаки, заданные изначально. Таким признаком может стать военная форма, или определенная расцветка техники.
Такие интеллектуальные системы беспощадны, ей будет безразлично, является ли целью ребенок или гражданский объект — она хладнокровно выполнит свою задачу.
А теперь представьте ситуацию, когда любой человек может купить в магазине беспилотник, прикрепить к нему оружие, дать ему любую задачу, и отпустить на волю?
Вариант 2: Дружелюбный ИИ, который используют злоумышленники
Сегодня искусственный интеллект глубоко входит во многие сферы жизни. Например, недавно появились системы имитации голоса, которые способны оцифровать тембр голоса человека, характерные черты произношения, и после этого с успехом имитировать его.
Читайте также: Друг или враг? Будущее искусственного интеллекта
Такая технология может быть использована злоумышленниками, они смогут подделать голос любого человека по образцу, после чего обмануть его близких, друзей или коллег с целью наживы.
Со временем появится множество других примеров нелицеприятного использования искусственного интеллекта, и нам действительно стоит опасаться этого.
Вариант 3: ИИ, который неправильно поймет нас
И такое тоже возможно. Предположим, искусственный интеллект, созданный учеными ради обеспечения общественной безопасности, начнет обучаться по выпускам новостей, видеороликам с YouTube и по комментариям твиттера.
После того, как он «проглотит» терабайты данных, описывающих ограбления, убийства и военные конфликты, он может решить, что именно люди представляют наибольшую опасность и попытается остановить все вышеописанное для нашей же безопасности. Уверяем, вам может не понравится такая забота.
Вариант 4: ИИ, которого не поймем мы
А что если разработки в области умных машин зайдут настолько далеко, что появится искусственный интеллект, который опередит людей так сильно, что мы не сможем его понять? Если ИИ станет умнее человека настолько же, насколько человек умнее муравья? Если мы никоим образом не сможем повлиять на его дальнейшие действия? Последствия представить трудно.
Загрузка...
