Создать Бога. Зачем мы разрабатываем искусственный интеллект и чем нам это грозит

Коротко:

— что такое искусственный интеллект и почему его пока не существует

— зачем нам нужен искусственный интеллект

— могут ли люди быть формой искусственного интеллекта

Судя по тому сколько времени человек проводит в гаджетах — мир уже порабощен технологиями. Но, некоторые ученые всерьез обсуждают возможность восстания машин и появления искусственного интеллекта (далее — ИИ), который ступит на тропу войны с людьми.

Продвинутый интеллектуальный компьютер может обрести сознание и догадаться, что именно человек является главной причиной всех бед на Земле. Несмотря на то, что такой сценарий будет не самым позитивным для судьбы человечества, современные исследователи лезут из кожи вон, чтобы наградить компьютеры все большим количеством человеческих качеств.

Одним из последних открытий стала работа нейробиологов из США, которые заявили, что ИИ можно внушить чувство собственной «смертности» и буквально объяснить компьютеру, что его существование довольно хрупкое.

В связи с этим, НВ разбиралось, зачем нужно наделять компьютер чувствами, когда появится полноценный ИИ и может ли человечество быть симуляцией компьютерной программы, которую разработала одна из сверхцивилизаций.

В чем суть исследования?

«Наша цель — выяснить условия, которые потенциально позволили бы машинам заботиться о том, что они делают или думают. При определенных условиях, машины, которые могут реализовать процесс, похожий на гомеостаз, способны также получить источник мотивации и новые средства для оценки поведения, вроде чувств живых организмов», — указано в работе нейробиологов из Южно-Калифорнийского университета в Лос-Анджелесе, которую опубликовали несколько недель назад в журнале Nature.

Гомеостаз — это прежде всего биологическая функция, которая позволяет, например организму человека, сохранять стабильность и контролировать все внутренние и внешние процессы. Благодаря гомеостазу, человек способен к саморегуляции, может подстраиваться под определенные условия и, в конечном счете, просто выживать.

Простейшие примеры гомеостаза у млекопитающих — потоотделение для регуляции температуры тела, контроль уровня глюкозы в крови, обмен веществ, удаление отходов из организма и т. д.

Эти, казалось бы, примитивные функции организм человека выполняет даже без нашего участия. Но, если оцифровать наш организм — получится сложнейшая система, которая одновременно выполняет огромное количество задач и моментально обрабатывает потоки информации из разных своих «узлов». Так или иначе повторить эту систему в цифровом виде — и есть задача разработчиков ИИ.

Мы уже научили компьютеры синтезировать и анализировать информацию на начальном уровне, а теперь исследователи из США планируют пойти дальше и воссоздать функцию гомеостаза в машинах. Авторы работы говорят, что если заставить компьютер заботиться о себе — это может не только улучшить его работу, но и поможет ученым исследовать природу чувств и сознание машин.

Фото: bestlifeonline.com

К примеру, если ИИ сможет определять вводные данные о прикосновении и физическом давлении — он будет способен оценивать риски и опасности. Создание системы таких вводных, похожих на человеческое осязание, обоняние, слух, зрение и вкус, позволили бы компьютеру заботится о собственном выживании и принимать решения на новом интеллектуальном уровне.

«Вместо того, чтобы усиливать защиту или добавлять сырые вычислительные мощности для достижения устойчивости, мы начинаем разработку этих роботов, как это ни парадоксально, добавляя им чувство уязвимости», — пишут нейробиологи.

Конечная цель этого проекта — создать ИИ, в лице, скажем, автономного робота, который сможет принимать решения, основываясь на чем-то похожем на человеческие чувства. Другой вопрос — к чему приведет наделение машины такими чувствами, и как она будет взаимодействовать с человеком, зная о своей уязвимости.

Что такое ИИ?

В энциклопедия Британника ИИ определяют как «способность компьютера выполнять задачи, которые могут выполнять разумные существа». По большому счету, разработчики ИИ пытаются обучить компьютер интеллектуальными способностями вроде определения смыслов, обобщения, обучения на ошибках и даже рассуждения.

Впервые термин ИИ использовал американский информатик Джон Маккарти в 1956-м. Его команда является разработчиком первого ИИ — программы для английского компьютера Ferranti Mark 1, которая могла играть в шахматы. Сегодня ИИ обрел гораздо более широкое понятие, и мы уже не называем игру в шахматы на бабушкиной кнопочной Nokia ИИ-программой.

Таким образом, на берегу стоит определить, что ИИ — чрезвычайно обобщенное понятие, и, в идеале, — это искусственно разработанная система, которая обладает человеческими или близкими к человеческим интеллектуальными способностями и может выполнить любую задачу из возможных для homo sapiens.

Понятие ИИ часто употребляют в разрезе машинного обучения и искусственных нейронных сетей. Здесь уже попроще и побольше конкретики. Нейросети — это форма ИИ, реализованная через программное обеспечение, которое симулирует принципы обмена информации между нейронами в мозге человека. Проще говоря, искусственная нейросеть использует сеть узлов для обработки информации, похожую на нейронную сеть в организме человека.

Эта технология позволила компьютерам обрабатывать огромное количество информации. Самые распространенные примеры нейросетей — программы для определения того или иного объекта, его движения и характеристик на изображении или видео. Сперва разработчики вручную обучают программу отличать один объект от другого, а затем, анализируя миллионы изображений, нейросеть автоматически принимает решения и определяет положение и характеристики объектов.

Фото: AI Demystified | Callaghan Innovation

Так работают развлекательные мобильные приложения, которые якобы определяют возраст по вашему фото и, в то же время, по такому принципу функционируют сложные системы для восстановления древнегреческих текстов, анимирования статичных портретов или даже создания случайных фото несуществующих людей.

Ключевая способность нейросетей — обучение: чем больше условных изображений, на которых нужно отличить человека от обезьяны проанализировала нейросеть, — тем с большей вероятностью в следующий раз программа точно определит, где человек, а где обезьяна на любом фото.

Нейросеть — это одна из форм машинного обучения, поскольку система обучается, выполняя все большее количество задач. Но, машинное обучение — более широкий термин, поскольку он подразумевает разные формы развития производительности компьютера. К примеру, когда YouTube предлагает вам посмотреть определенные видеоролики, основываясь на вашем предыдущем выборе и определяя ваши предпочтения — это тоже форма машинного обучения.

Зачем нужен ИИ?

Поскольку интеллектуальные системы вроде нейросетей работают с информацией — их применение актуально во всех сферах человеческой деятельности. Логистика транспортных перевозок, обслуживание медицинской сферы, банкинг, финансовые операции, оптимизация промышленности, автономное вождение, инфраструктура городов, — это лишь малая доля того, где можно применить и где уже применяют разные нейросети.

Да, подобные системы взяли на себя часть работы человека. Обученная робототехника может управлять самолетами, разбирать юридические дела, создавать журналистские тексты и даже проводить медицинские операции. Конечно, все это пока лишь перспективные сферы для полного применения ИИ, и их деятельность все равно строго контролируется человеком.

Реальное применение, скажем, нейросетей актуально в рутинной работе, которая связана с обработкой информации. Из-за создания интеллектуальных систем можно оптимизировать работу многих офисных сотрудников, клерков, секретарей, бухгалтеров, аудиторов, почтовых служащих и т. д. В целом, все, кто сейчас занимаются документооборотом, математическими подсчетами, сбором и обработкой информации должны быть готовы к тому, что уже завтра их место займет железяка, которой не нужен отдых и соцпакет.

Тем не менее, не стоит бояться, что роботы уничтожат все профессии и заберут работу у людей. Нам по-прежнему нужны аналитики, специалисты по маркетингу, продажам, разные идеологи, политологи, философы, учителя, юристы, — в общем все, кто может делать свою работу лучше, чем компьютер. Не говоря уже о создателях этих компьютеров, ученых, инженерах, ИТ-специалистах, разработчиках ПО и т. д.

Пока, к сожалению или к счастью, компьютер проигрывает человеку в большинстве сфер, и то, что мы научили нейросети моментально выполнять конкретные, но сложные задачи и учиться на них — не значит, что такие системы умнее человека.

Примитивный ИИ, который сегодня реализован в виде интеллектуальных голосовых помощников, машинного перевода с одного языка на другой, создания текстов или определения объектов на фото — все еще очень слаб, совершает много ошибок и не может обойтись без помощи человека.

«Роботы очень тупые. Мы должны понимать, что мы на световые годы далеки от искусственного интеллекта. Все, что мы пока можем — это попытки голосовых помощников неудачно шутить… Потребовалась целая научная работа для того, чтобы научить робота убирать один мусор рукой, а другой — с помощью совка», — говорит кандидат физико-математических наук, издатель научно-популярного интернет-издания N+1 и ведущий подкаста KuJi Podcast Андрей Коняев.

Какие ИИ бывают?

В философии искусственного интеллекта есть понятие слабого и сильного ИИ. Слабый ИИ — это все, о чем мы говорили выше: такая система может выполнять разные информационные задачи, определенные человеком. При этом, человек полностью настраивает работу этой системы, следит за ходом выполнения работ, контролирует состояние аппаратного обеспечения и т. д.

Сильный ИИ подразумевает, что компьютер не только обрабатывает информацию, но и понимает ее смысл. К примеру, если бы упомянутая Apple Siri могла общаться с пользователями не только по своим алгоритмам и набору заданных команд, а вести разговор на общие темы и хотя бы имитировать рассуждения — она была бы сильным ИИ.

Отличить сильный ИИ от слабого можно с помощью теста Тьюринга. В середине прошлого века английский математик Алан Тьюринг предложил простой эксперимент: сможет ли человек определить с кем он общается, — с другим человеком или с компьютером. Если человек думал, что общается с другим живым человеком, но на самом деле его собеседником был компьютер — такой компьютер прошел тест Тьюринга и считался сильным ИИ.

Фото: cdn-images-1.medium.com

Да, в некоторых случаях машинам действительно удавалось проходить тест Тьюринга и люди не могли отличить их ответы от ответов живых людей. Но, это не значит что сейчас существует сильный ИИ. Интеллектуальные системы действительно могут понимать смысл информации и вводить ее в контекст, но даже это они делают на основе заложенных в них алгоритмов и массива ранее обработанных данных. Пока не существует ни одного компьютера, который мог бы понимать информацию так, как ее понимает человек.

Наш сегодняшний ИИ — это все же слабый или специализированный ИИ, который хоть и может обыграть вас в шахматы, управлять автомобилем, распознавать лица, выполнять ваши запросы, но все же не может заменить человека в любой когнитивной работе.

Поэтому, на данном этапе, разговоры о том, что ИИ вскоре обретет сознание, будет принимать решения против человеческой воли и вообще поработит человечество — это не больше, чем научная фантастика. Сегодня нам скорее нужно бояться неправильной работы интеллектуальных систем, которые управляют самолетами, автомобилями, энергосетями или кардиостимуляторами.

Президент Microsoft Брэд Смит недавно предупреждал, что нам уже сейчас нужно создать новую Женевскую конвенцию, которая должна ограничить развитие автономных систем летального оружия. Когда вооруженный дрон стреляет по какому-либо объекту — это совсем не проявление сознания у ИИ, а действие алгоритма, который прописал человек, наделяя машину правом вести огонь на поражение. Несмотря на это, многие страны, включая США, Китай, Израиль, Южную Корею, Россию и Великобританию, развивают и используют автономное оружие.

Когда появится сильный ИИ и может ли он существовать вообще?

70 лет назад межпланетные путешествия и высадка человека на Луне казались сумасшедшими идеями. То же самое и с созданием сильного ИИ сейчас. В нынешних условиях это не представляется возможным, но развитие полупроводниковых технологий, квантовых вычислений и заинтересованность ученых в исследовании этой темы сулят нам неплохие перспективы для создания компьютерного сверхразума.

Возможно, через несколько десятков лет те же ученые из Калифорнии все-таки научат ИИ переживать за свое собственное состояние и это приведет к формированию сознания у машин. Но, вполне вероятно и то, что мы еще сотни лет будем играться в оживление своих «терминаторов» и учить их улыбаться.

Исследователи ИИ не имеют единого мнения по поводу того, когда появится полноценный искусственный интеллект. Несколько лет назад на конференции в Пуэрто-Рико провели опрос среди ведущих ученых, которые работают над ИИ. Большинство экспертов говорили, что подобие сильного ИИ может появиться уже в 2045 году, но некоторые исследователи были уверены, что от этого события нас отделяют сотни лет.

Некоторые ИТ-специалисты, предприниматели и даже философы полагают, что мы никогда не сможем создать абсолютную форму ИИ, поскольку мы сами являемся частью интеллектуальной системы и живем в компьютерной симуляции.

Об этом недавно заявил один из первых взломщиков iPhone, создатель ИИ-компании, которая разрабатывает системы автономного вождения Джордж Хотц. На фестивале SXSW Хотц сказал, что люди могут жить в компьютерной симуляции, похожей на матрицу. По его мнению, эту матрицу может контролировать «всемогущее внеземное существо, сверхъестественный объект либо искусственный интеллект, который находится за пределами человеческого понимания».

Самым известным адептом идеи о жизни человека в матрице является глава компаний SpaceX и Tesla Илон Маск, который также тесно связан с технологиями ИИ. В 2016-м Маск говорил, что существует «всего один из миллиарда шансов, что мы живем в базовой реальности».

Фото: medium.com

Калифорнийский миллиардер считает, что одним из доказательств контролируемой жизни человека являются видеоигры. Дескать, если всего за несколько десятков лет человек создал «реалистичную 3D-симуляцию, в которую миллионы людей играют одновременно», и вскоре видеоигры станут неотличимы от реальности, — очень велика вероятность того, что человек уже входит в одну из таких симуляций, и находится внутри своего рода видеоигры, разработанной одним из сильных ИИ.

Одним из пионеров этих идей является шведский философ и профессора Оксфордского университета Ник Бостром. В интервью изданию Vulture Бостром рассказал, что идеи об ИИ, который заточил человечество в компьютерную симуляцию, появились у него еще до просмотра фильма «Матрица», который вышел в 1999-м и у которого был похожий сюжет.

В своих исследованиях Бостром пришел к трем основным гипотезам:

— люди вымрут прежде чем смогут создать сверхцивилизацию;

— люди смогут создать сверхцивилизацию, но они вряд ли будут заинтересованы в симуляции своей истории;

— люди уже живут в компьютерной симуляции одной из сверхцивилизаций.

Шведский философ считает, что как минимум одно из этих утверждений окажется истинным.

Источник: https://techno.nv.ua/popscience/iskusstvennyy-intellekt-chto-eto-takoe-i-zachem-on-nam-nuzhen-50053922.html

Добавить комментарий

%d такие блоггеры, как: