Искусственный интеллект. Мнение Игоря Ашманова

Известный российский предприниматель в сфере информационных технологий Игорь Ашманов в программе Анатолия Кузичева рассуждает о возможностях искусственного интеллекта и потенциальных рисках.


Кузичев: Доброго всем вечера! Это программа “Радио Кузичев”. Сегодня мы беседуем с Игорем Ашмановым – одним из крупных экспертов российской IT-отрасли, кандидатом технических наук, создателем системы искусственного интеллекта. Тема нашей программы – искусственный интеллект, поскольку имеются информационные поводы, касающиеся этого направления. Лично для меня это сбывающиеся мрачные пророчества, тень Апокалипсиса…

По крайней мере искусственный интеллект вторгается в медийную сферу. Вот несколько последних новостей: “Искусственный интеллект разгромил чемпиона мира по игре в Го”…

Ашманов: Одни раз выиграл, а потом проиграл… То есть как и с Каспаровым в своё время.

Кузичев: Другие заголовки: “Разработанный Microsoft искусственный интеллект научился расизму за сутки”, “Промышленный робот в столице Японии учится методом проб и ошибок”. И самая яркая новость – “В финал литературного конкурса попала написанная роботом повесть”. Фрагмент:

“Я корчился от счастья, которое испытывал впервые, и продолжал восторженно писать. День, когда компьютер написал роман. Этот компьютер предпочёл работе на людей поиски собственного счастья.”

Ашманов: Чушь это! Я про то, что это именно робот написал. Это скорее всего генератор текстов с человеческим фактором управления… Для начала дадим определение. Есть определение техническое/инженерное, тех, кто работает над искусственным интеллектом, а есть определение/понимание голливудское, которое можно услышать в фильмах Спилберга и в прочей туфте. В фильмах Спилберга – это человекоподобные роботы, которые испытывают человеческие чувства, жаждут любви, устают и так далее. Иногда проскальзывает в фильмах Стенли Кубрика. Искусственный интеллект там является умным ассистентом с доступом ко всем базам знаний в мире.

А есть понимание искусственного интеллекта у тех, кто этим занимается профессионально. Во-первых, этот термин неправильно переведён Artificial intelligence – в переводе означает “искусственное понимание”. Во-вторых, само понимание дисциплины следующее, это совокупность математических методов оптимизации или распознавания, которая позволяет машине имитировать некоторые человеческие функции. Это всегда так, потому что люди, которые над этим долго думали, в том числе один из создателей компьютерной индустрии Тьюринг, они довольно быстро сообразили, поскольку мы не знаем, что такое интеллект и даже наличие в человеческом собеседнике установить не можем, потому что есть рекурсия – мы пытаемся понять инструмент с помощью самого инструмента – изучить интеллект с помощью интеллекта. Большинство задач в математике, которые решаются этим методом, на самом деле вызывают много проблем, кучу парадоксов. То есть всякая рекурсия в человеческом рассуждении обычно приводит к катастрофе в этом рассуждении. Поэтому что такое интеллект мы на самом деле не знаем. И утверждать, что в машине есть интеллект, мы можем только по внешним проявлениям. Есть критерии Тьюринга: если машина по сети способна обмануть при общении текстом эксперта (если он примет машину за человека), то будем считать, что искусственный интеллект создан, просто потому что он не отличим.

Есть некоторое количество научных мракобесов, которые думают, что они полностью знают, как работает мозг и из этого делают вывод, что могут создать точно такой же мозг. Я готов говорить про инженерное понимание. Про другое понимание я не готов говорить, потому что это мировоззренческий вопрос, религиозный. Допустим, что загробная жизнь существует – значит человек может мыслить без тела, тогда мозг не имеет отношения к мышлению. Тогда зачем его воспроизводить? Может быть ещё одна идея, что мозг – это приёмник и ловит мысли извне…

Если мы про это не говорим, а имеем в виду инженерное понимание – имитация человеческих функций…

Кузичев: То определение, которое вы назвали голливудским довольно точное. Есть некоторая интеллектуальная система, которая выполняет творческие функции…

Ашманов: Попыток заставить машину творить довольно много. Можно, конечно, заставить машину имитировать творчество. Я работал в вычислительном центре Академии наук в отделе искусственного интеллекта. Проработал там 17 лет. Там, в частности, были люди, которые учили компьютер писать музыку. Это было начало 80-х. В Советском Союзе уже это делалось. Очень многие обещания в этой индустрии небыли выполнены. Например, до сих пор не существует хорошего машинного перевода…

Вот этот набор методов, искусственный интеллект. Есть воображаемые возможности, а есть то, что удалось реализовать. То есть некая романтика вокруг этого, а то, что уже сделано не имеет эйфории, никто и не думает, что это искусственный интеллект. Простой пример такой. Я занимался проверкой правописания. 50 лет назад правописание могли проверять только очень культурные люди. Сейчас это делает любой смартфон или тот же Word и кажется, что это ничто. Тоже самое и с машинным переводчиком – он переводит плохо, но никого это не беспокоит. Самое главное, что никто не думает, что это искусственный интеллект. Тоже самое и с алгоритмом T9 – это сложная система искусственного интеллекта, результат которой был заранее непредсказуем, потому что не было известно заранее, устроен ли так язык, что начало слова достаточно быстро сводится к единственному варианту. Оказалось, что работает. Это вопрос устройства языка…

С распознаванием лиц произошёл прорыв, буквально, за 2-3 года. Через некоторое время это станет обыденностью, никто не будет думать, что это искусственный интеллект…

Человек состоит из нескольких слоёв. Кроме интеллекта у человека есть ещё и воля – то, что заставляет его совершать поступки, принимать решения. Это не с интеллектом связано. Волевая сфера – это нечто другое. Откуда у машины возьмётся собственная воля, если её не запрограммировать…

Кузичев: Есть же такой закон – закон перехода количества в качество. Если создавать очень долго сложную интеллектуальную систему, то сама её сложность перенесёт её на новое качество.

Ашманов: Это качество скорее всего будет следующее. Какое-то время создатели этой программы будут понимать, как она работает и будут в состоянии понять и предсказать результат при заданных параметрах. Затем сложность станет такой большой, что они перестанут её понимать и она станет для них “чёрным ящиком”, станет непредсказуемой. Мы это наблюдаем во многих случаях. Например, тот же Microsoft Word, в котором иногда происходят странные вещи. Есть ситуации, при которых разработчики не знают, что выдаст их система. Например, поисковик Яндекс. Поскольку там всё построено на машинном обучении на основе результатов поиска пользователей, разработчик поиска Яндекса не может сказать, какие сайты будут в первой десятке. Более того это меняется каждый день.

То же самое с самообучаемым ботом от Microsoft, который сказал, что “Обама – не лучше Гитлера”…

Кузичев: Завершая эту тему, спрошу у Вас, есть ли смысл опасаться искусственного интеллекта?

Ашманов: Опасаться того, что в нём зародится собственный интеллект, и он будет обладать собственной волей, и он восстанет против своих создателей – скорее всего нет. Но стоит опасаться того, что злонамеренные люди научат роботов убивать людей и вообще причинять всякие гадости. Это так уже и есть. Уже давно есть спам-роботы, сообщения которых трудно отличить от человеческого общения…

Кузичев: Скажите, как работают разного рода информационные вбросы?

Ашманов: Про опровержения мы говорили, что читают вброс миллионы, а опровержения читают тысячи. По поводу работы – есть люди, которые за деньги сидят и ищут информационные поводы. Они их переиначивают и вбрасывают. Эта технология рутиная…

Искусственный интеллект. Мнение Игоря Ашманова

Добавить комментарий

Ваш e-mail не будет опубликован.

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.