12 рисков искусственного интеллекта

12 рисков искусственного интеллекта

1. Отсутствие прозрачности

Многие системы ИИ построены на так называемых нейронных сетях в качестве движка; сложные системы узлов, которые связаны между собой. Однако эти системы менее способны отражать их «мотивацию» для принятия решений. Вы видите только то, что входит, а что выходит. Система слишком сложна. Однако при принятии военных, социальных или медицинских решений важно отслеживать, какие данные привели к каким решениям. Какая основная мысль или рассуждение привело к выводу? Какие данные использовались для обучения модели? Как модель «думает»? Теперь мы часто даже не догадываемся. Это риск искусственного интеллекта.

2. Предвзятые алгоритмы

Компании и правительства все чаще передают решения на аутсорсинг интеллектуальному программному обеспечению. Интеллект этих типов систем увеличивается. Для этого этим системам требуется много данных. Компании и правительства годами активно собирают данные.

Иногда считают, что эти данные обладают волшебными качествами. Но это не так: данные не объективны. Потому что мы, люди, полны предрассудков. Эти предубеждения также присутствуют в наших данных и, в конечном итоге, в алгоритмических моделях. Они смотрят в прошлое. Это зеркало, а не оракул. Алгоритмы самообучения подтверждают изображения, которые у нас уже есть. Поэтому, когда мы снабжаем наши алгоритмы наборами данных, которые содержат предвзятые данные, система логически подтверждает наши предубеждения. И, к сожалению, в компьютерной системе нет волшебного или очищающего фильтра. Например, недавно выяснилось, что программное обеспечение для распознавания лиц от Twitter отдает предпочтение белым людям, а не цветным.

3. Ответственность за деяния

Еще многое неясно в отношении юридических аспектов все более умных систем. А как насчет ответственности, когда система ИИ делает ошибку? Можем ли мы судить об этом по-человечески? Когда системы станут более самообучающимися и автономными, кто будет в этом виноват? Может ли компания по-прежнему нести ответственность за алгоритм, который изучил сам себя и впоследствии определил свой собственный курс? Который сделал свои собственные выводы на основе большого количества данных, чтобы прийти к конкретным решениям? Принимаем ли мы, что машины ИИ тоже совершают ошибки, даже если они фатальны?

4. Слишком большой мандат.

Чем более умные системы мы используем, тем больше сталкиваемся с проблемой масштабов. Сколько полномочий мы даем нашим умным виртуальным помощникам? От какой автономии мы откажемся? Что они могут решить за нас, а что нет? Расширяем ли мы автономию интеллектуальных систем все дальше и дальше, или мы должны поддерживать контроль над этим любой ценой, как того желает Европейский Союз? Что мы позволяем, а что не можем определять и выполнять умные системы без вмешательства людей? И не следует ли вводить стандартную функцию «предварительного просмотра» в интеллектуальных системах искусственного интеллекта? Риск состоит в том, что мы передаем слишком большую автономию, не имея для этого технологий или предварительных условий. Риск также состоит в том, что мы отказываемся слишком много от нашей автономии и, таким образом, теряем вещи, которые оказались ценными (человеческий контакт, независимое мышление). И не только это; Это также может быть риском того, что крупные технологические компании все чаще решают за нас.

5. Слишком мало конфиденциальности

Каждый день мы создаем 2,5 квинтиллиона байтов данных (это 2,5 миллиона терабайт, где 1 терабайт равен 1000 гигабайт). Из всех цифровых данных в мире 90 процентов были созданы за последние два года. Как компании, вам нужно много чистых данных, чтобы умные системы работали должным образом. Помимо высококачественных алгоритмов, сила системы искусственного интеллекта также заключается в наличии хороших наборов данных. Компании, которые работают над искусственным интеллектом, все чаще становятся пустым словом в наших данных: их никогда не бывает достаточно, и все позволяет достичь еще лучших результатов. Другой риск искусственного интеллекта - опасность того, что компании будут профилировать нас с еще большей точностью. Что они всегда тонко манипулируют нами в сторону профиля, который им интересен с коммерческой точки зрения. Что они используют наши данные, чтобы влиять на наши идеи, желания и мысли. И в конечном итоге наше поведение. И что эти ресурсы в конечном итоге также используются в политических целях.

Конфиденциальность

В результате наша конфиденциальность рушится. Но когда мы затем защищаем свою конфиденциальность, они просто используют похожие целевые группы: людей, которые очень похожи на нас. И наши данные массово продаются, и никто не знает, кто их получает и для чего они используются. Данные - это масло систем искусственного интеллекта, и наша конфиденциальность в любом случае находится под угрозой.

Пример. Фотография вашего дома в Google Street View предсказывает опасность автомобильной аварии. Есть ли связь между тем, как выглядит ваш дом, и риском автомобильной аварии? В этом исследовании 20 000 домов клиентов (из страховых компаний) были отобраны и аннотированы с фактическими характеристиками, такими как возраст, тип дома, близость к другим зданиям и физическое состояние дома. С помощью системы искусственного интеллекта, созданной для управления рисками, изображения, кажется, что-то говорят о вероятности попадания жителей в автомобильную аварию.

Интересно, как Google Streetview используется для получения информации. Раньше это уже было политическим предпочтением или уровнем преступности в Бразилии (см. Статьи ниже). Создатели и создатели Google Street View, вероятно, никогда бы не приняли это во внимание.

Конечно, это также вызывает этические вопросы. Может ли страховщик использовать такие общедоступные данные для прогнозирования автомобильных аварий и, таким образом, исключить жителей или назначить им более высокую премию? Или это сравнимо с вопросами, которые задает страховщик, когда вы оформляете страховку?

6. Большое влияние со стороны крупных технологических компаний.

Вышеупомянутая тема связана с мощью крупных технологических компаний. Facebook, Microsoft, Google, Apple, Alibaba, Tencent, Baidu и Amazon. Эти восемь технологических компаний обладают финансовыми, информационными и интеллектуальными возможностями для развития искусственного интеллекта семимильными шагами. Таким образом, существует опасность, что очень мощная технология окажется в руках относительно небольшой группы коммерческих (!) Компаний. И чем лучше технология, чем больше людей начинают ее использовать, тем лучше становится технология. И так далее. Это дает большим мальчикам еще большее преимущество. Механизм «победитель получает все» эпохи Интернета также применим к данным (монополиям на данные) и алгоритмам.

Передача алгоритмов в так называемом «трансферном обучении» также работает все лучше и лучше. В этом случае для хорошего результата требуется все меньше и меньше данных. Например, система Google в течение некоторого времени могла хорошо переводить с английского на испанский и португальский. Благодаря новым методам трансферного обучения эта система теперь может переводить с испанского на португальский и наоборот с очень ограниченным вводом. У крупных технологических компаний есть данные и эти модели трансферного обучения.

И вышеупомянутая коммерческая цель, как показывает опыт, всегда будет преобладать, и неясно, как эти компании будут использовать технологию в будущем.

7. Искусственный суперинтеллект

Я думаю, что в дискуссии о недостатках искусственного интеллекта слишком часто доминирует обсуждение суперинтеллекта. Системы настолько умны, что во многих аспектах намного превосходят человеческий интеллект. Они приобретают всевозможные навыки и знания без вмешательства человека. Что они тренируются в неизвестных им ситуациях. Они понимают контекст. Этакий сверхразумный оракул, который человечество считает только «улитками в саду»: пока они не беспокоят вас, они могут жить.

8. Влияние на рынок труда

В ближайшие годы ИИ окажет давление на рынок труда. Благодаря быстрому повышению качества искусственного интеллекта умные системы станут намного лучше справляться с конкретными задачами. Умные системы искусственного интеллекта возьмут на себя распознавание закономерностей из больших объемов данных, предоставление конкретной информации и выполнение когнитивных задач. Профессионалы должны внимательно следить за развитием искусственного интеллекта, потому что системы выглядят все лучше и лучше. Слушайте, говорите, анализируйте, читайте лучше и сами создавайте контент.

Так что, безусловно, есть люди с работой в опасной зоне, которым нужно быстро адаптироваться. Но, безусловно, большая часть населения начнет работать с системами с искусственным интеллектом. И не забывайте: будет создано много новых рабочих мест, хотя представить их труднее, чем рабочие места, которые исчезнут.

В ближайшие годы социальное неравенство усилится из-за разрыва между имущими и неимущими. На мой взгляд, мы, как общество, должны заботиться о неимущих. Люди, которые способны выполнять только рутинную ручную работу или думать. Потому что помните: работа - это больше, чем просто зарплата в конце месяца. Это повседневная деятельность, цель, личность, статус и роль в обществе. Мы хотим предотвратить появление группы людей в нашем обществе, которым платят и с которыми обращаются как с роботами.

Мы хотим предотвратить то, что искусственный интеллект используется только для сокращения рабочей силы. Как экономия средств. Что многие люди застревают дома, не имея более глубокой и большой цели в жизни.

Что молодые люди могут искать более глубокую цель в экстремистских религиозных организациях или отрицательно относиться к обществу, в котором им нет места.

Качественный рост искусственного интеллекта вызывает большой «социальный стресс» сейчас и в будущем. Люди должны постоянно адаптироваться и не уверены в своей работе и своей работе.

Вкратце: как профессионалу становится все более важным приспосабливаться к быстро меняющейся среде. И это может быть весело, но также вызывает стресс.

9. Автономное оружие

Илон Маск из Tesla некоторое время назад предупредил Организацию Объединенных Наций об автономном оружии, работающем на искусственном интеллекте. Он вместе со 115 другими экспертами указал на потенциальную угрозу автономного оружия войны. Логично: это могущественные агенты, которые наносят большой урон. Опасно не только настоящее военное оборудование, но и потому, что технологии становятся проще, дешевле и удобнее в использовании, они попадают в руки всех, в том числе и со злым умыслом. За тысячу долларов у вас уже есть очень хороший дрон с камерой. Вундеркинд может установить на него программное обеспечение, чтобы дрон мог летать автономно, и уже есть программное обеспечение для распознавания лиц, с помощью которого камера дрона может распознавать лица и следить за этим человеком. А что, если система сама начнет принимать решения о жизни и смерти, как это уже происходит в зоне боевых действий? Должны ли мы оставить это алгоритмам?

И нам нужно дождаться первого автономного дрона с распознаванием лиц и 3D-печатной винтовки, пистолета или другого стрелкового оборудования. Посмотрите это видео от Slaughterbots, чтобы получить представление. Искусственный интеллект делает это возможным.

10. Растет ненадежность.

Умные системы все больше способны создавать контент: создавать лица, составлять тексты, создавать твиты, манипулировать изображениями, клонировать голоса и умную рекламу.

Системы искусственного интеллекта могут переключать видео с зимы на лето и видео с дня на ночь. Делать живые лица людей, которых никогда не существовало.

11. Алгоритмы взлома

Системы искусственного интеллекта становятся все умнее и скоро смогут распространять вредоносные программы и программы-вымогатели с большой скоростью и в больших масштабах. Они также становятся лучше проникают в системы и взламывают шифрование и безопасность, как недавно и с помощью ключа Captcha. В частности, по мере того, как возможности искусственного интеллекта продолжают расти, нам придется критически взглянуть на наши текущие методы шифрования. Программа-вымогатель как услуга становится все лучше и лучше с искусственным интеллектом. Другие компьютерные вирусы также становятся умнее благодаря следам и ошибкам.

Пример: беспилотный автомобиль - это программное обеспечение на колесах. Он подключен к Интернету и поэтому может быть взломан. (уже произошло). Значит, одинокий сумасшедший в своей мансардной комнате может стать причиной драмы, как в Ницце. Я ожидаю, что будет появляться все более умное программное обеспечение, позволяющее взламывать или атаковать системы, которые сегодня станут такими же простыми, как интернет-банкинг.

(Правительство США также предостерегло от использования автономных транспортных средств, потому что у злоумышленников обе руки свободны во время вождения, чтобы совершить «стрельбу за рулем» из пулемета.)

Также в больницах, например, все больше и больше оборудования подключается к Интернету. Что, если цифровые системы там будут взломаны с помощью так называемых программ-вымогателей? Это программное обеспечение, которое может блокировать целые компьютерные системы в обмен на выкуп. Вам не нужно думать о том, что кто-то создает или угрожает серьезным сбоям в работе кардиостимуляторов.

12. Потеря навыков

Из-за использования компьютеров и смартфонов мы теряем все больше и больше человеческих навыков. Жалко? Иногда да, иногда нет. Умное программное обеспечение облегчает нашу жизнь и позволяет нам выполнять менее скучные задачи. Навигация, письмо от руки, ментальная арифметика, запоминание телефонных номеров, способность предсказывать дождь, глядя на небо, и так далее. Не сразу критично. Мы теряем навыки в повседневной жизни и оставляем их технологиям. Так было на протяжении веков. Например, мало кто знает, как самому развести огонь. На мой взгляд, важно спросить себя: не становимся ли мы слишком зависимыми от новых технологий? Насколько беспомощными мы хотим быть без цифровых технологий?

Очень красивые арты девушек