Всевидящее око

Президент компании Microsoft Брэд СМИТ предупредил, что жизнь, изображенная в книге Джорджа ОРУЭЛЛА “1984”, может стать реальностью в 2024 году, если законодатели не защитят нас от искусственного интеллекта.

В интервью программе Би-би-си “Панорама” Брэд Смит сказал, что быстроразвивающиеся технологии будет “трудно догнать”.

В программе исследуется все более широкое применение искусственного интеллекта Китаем для наблюдения за своими гражданами.

Существуют опасения, что главенствующая роль государства в области искусственного интеллекта несет непосредственную угрозу демократии.

- Если мы не примем законы, которые будут защищать общественность в будущем, мы обнаружим, что технологии стремительно развиваются, и догнать их будет очень трудно, - сказал Смит.

- Мне постоянно вспоминаются уроки Джорджа Оруэлла из его книги “1984”. На самом деле эта история… была о правительстве, которое всегда могло видеть и слышать все, что делают и говорят все, - сказал Смит. - Этого не произошло в 1984 году, но если мы не будем осторожны, это может случиться в 2024 году.

Смит добавил, что в некоторых частях мира реальность все больше догоняет научную фантастику.

Китай стремится к 2030 году стать мировым лидером в области искусственного интеллекта, и многие считают, что его возможности выходят далеко за пределы тех, что есть у ЕС.

Бывший генеральный директор Google, а ныне председатель комиссии национальной безопасности США по искусственному интеллекту Эрик ШМИТ предупредил, что победа над Китаем в сфере искусственного интеллекта необходима.

- Мы находимся в состоянии геополитического стратегического конфликта с Китаем, - сказал он. - Путь к победе - объединить наши ресурсы, чтобы разработать национальные и глобальные стратегии победы демократий в сфере искусственного интеллекта. Если этого не сделать, нас ждет будущее, в котором нам будут навязаны другие ценности.

Консультант китайского правительства доктор Лан СЮЭ считает, что распознавание лиц может оказаться “чрезвычайно полезным” при идентификации людей в массовых собраниях в случае “крупной аварии”.

- Китай действительно добился огромного прогресса в развитии технологий, - добавил он. - США считают это угрозой... и хотят начать холодную войну против технологий.

Хотя Китай существенно отличается от западного мира своими ценностями и политикой, китайское видение мира - “это не конвергенция, а сосуществование”, считает доцент Лондонской школы экономики доктор Кею ЦИН.

- Китай не стремится экспортировать свои ценности, - утверждает она.

Эрик Шмидт стал советником Пентагона в 2016 году, сохранив должность исполнительного председателя Alphabet, материнской компании Google.

В последующие годы Google заключил контракт с Пентагоном, позволив ему использовать некоторые из своих технологий распознавания изображений в рамках военных проектов.

Проект Maven использовал машинное обучение, чтобы различать людей и предметы в видеороликах, снятых с дронов.

- В то время Maven был способом заменить человеческий глаз автоматическим зрением для видеозаписей с дронов, которые использовались в различных конфликтах в арабских странах, - говорит Шмидт. - Я считал, что использование этой технологии - положительный фактор для национальной безопасности и хорошее партнерство для Google.

Но ряд сотрудников Google раскритиковали проект и подали в отставку.

- Google не должен участвовать в военном бизнесе, - считает инженер-программист Лора НОЛАН, которая ушла в отставку в 2018 году, узнав, чем занимается Google в проекте Maven. - Мне казалось, что у меня руки в крови.

Нолан утверждает, что эту технологию в будущем можно будет использовать в системах наведения.

Но Google заявил, что его искусственный интеллект будет использоваться только в невоенных целях, а в июне 2018 года компания покинула проект Maven.

Шмидт сказал, что считает полезными технологии, которые могут помочь военным принимать правильные решения.

Министерство обороны США тем временем продолжает искать партнеров в Кремниевой долине, стремясь выиграть глобальную гонку вооружений искусственного интеллекта.

Председатель целевой группы США по вопросам будущего обороны Сет МОУЛТОН призывает технологические компании поддержать военных.

- Все сводится к тому, что это гонка, это соревнование, и мы в нем участвуем, - говорит он. - Собираетесь ли вы помочь нам выиграть эту гонку или станете нашими противниками? В Китае нет такой же системы правления, как у нас. Может ли гонка вооружений в сфере искусственного интеллекта привести к конфликту с Китаем? Вполне может.

Доктор Сюэ соглашается, что вероятность конфликта существует, хотя он и не является неизбежным. Но для того чтобы этого не случилось, США и Китай должны действительно сотрудничать, считает он.

bbc.com