Искусственный Интеллект против Человека | Дебаты «Убеди скептика» | Учёные против мифов 13-10. Часть 2.

Сергей Марков. Да, конечно. Марвин Ли Минский – это один из классиков искусственного интеллекта, довольно интересным образом повлиявший на развитие коннекционизма, нейронных сетей. С одной стороны, он был одним из пионеров этого направления. 

Еще в начале пятидесятых годов он создал первую систему, управляемую искусственной нейронной сетью. С другой стороны, считается, что он внес свой вклад в критику работ Фрэнка Розенблатта. В какой-то мере это повлияло на наступление зимы искусственного интеллекта в семидесятые годы. Сейчас активно изучаются различные мультиагентные системы. Такая большая сфера машинообучения, как обучение с подкреплением, является бурноразвивающимся направлением.

Есть место и мультиагентным системам. Создание систем универсального искусственного интеллекта, режимы их обучения вполне себе могут быть связаны с таким обучением мультиагентных средах. Мы коротко затронули проблему сознания, будет оно или не будет у систем искусственного интеллекта. Моя научная позиция заключается в том, что сознание в какой-то мере является продуктом как раз мультиагентных взаимодействий. Появление эусоциальности привело к необходимости появления модели другого для того, чтобы прогнозировать поведение других агентов. Дальше эта модель была применена к самому субъекту. Появилась галерея зеркал отражения человеческим сознанием себя самого. Это направление активно развивается, является одним из мейнстримов в области работы над универсальным искусственным интеллектом.

Александр Соколов. Спасибо. Вопрос от Андрея Савченко: в далеком будущем научному сообществу удалось создать сопоставимый с человеческим ИИ. На его основе создаются автономные роботы для решения различных задач. Как вы думаете, будут ли достаточны по своей сути три закона робототехники в качестве основного защитного механизма в подобных системах? Если нет, то что бы предложили вы, Татьяна?

Татьяна Шаврина. Я думаю, что тут Сергей даже лучше меня прокомментирует. Мне кажется, что рассуждая о таком далеком будущем, скорее всего, у нас будет какой-то другой способ инкорпорировать необходимые нам знания в искусственный интеллект. Необязательно будут просто строгие запреты и правила робототехники. Возможно, что это все равно останется. Мы сейчас разговариваем про искусственный интеллект, но обычно в индустрии очень часто все задачи решаются очень просто: написали пару правил и сказали, что у нас уже искусственный интеллект используется. Возможно, это тоже останется.

Александр Соколов. Что добавите, Сергей?

Сергей Марков. Все творчество Айзека Азимова посвящено тому, что трех законов робототехники недостаточно. Возникает множество парадоксов при использовании такой простой системы. Я думаю, что здесь системы и правила примерно так же годны к решению этой задачи, как Уголовный кодекс подходит для того, чтобы контролировать поведение людей. Это в принципе работает, но есть нюансы. Есть ситуации, когда оказывается, что даже такого сложного поведенческого кодекса недостаточно для того, чтобы здесь решить все проблемы. 

Источник: https://brodude.ru/robot-kotoryj-vozmet-gryaznuyu-rabotu-na-sebya

Я думаю, что здесь направление развития будет связано с тем, что вряд ли мы будем так массово создавать универсальные системы искусственного интеллекта. Я думаю, что человечество пойдет по пути интеграции своего собственного интеллекта с продуктами своих технологий. Искусственный интеллект будущего – это мы сами, просто усовершенствованные, дополненные. Это создаст проблемы немножко другого класса, не те игрушечные проблемы, про которые приятно писать интеллектуальную фантастику, а проблемы совершенно другого уровня, которые на нынешнем уровне развития мы не можем в полной мере постичь.

Александр Соколов. Коллеги, время вопросов подошло к концу. Сейчас очень интересно посмотреть, как поменялось мнение аудитории. Я сейчас запущу то же голосование. Еще раз, пожалуйста, дорогие зрители, проголосуйте: когда, по-вашему, будет создана система искусственного интеллекта, равная человеческому интеллекту?

1. скоро;
2. в обозримом будущем;
3. в далеком будущем;
4. никогда:
5. уже создана.

Пожалуйста, перейдите по ссылке, проголосуйте еще раз. А пока зрители голосуют, я хочу попросить Татьяну подвести итог сегодняшней дискуссии. Что вы для себя вынесли? Изменилось ли ваше мнение?

Татьяна Шаврина. Тут не стоит вопрос о необходимости прекращения нашей деятельности. Методология в любом случае нам нужна. Методология должна разрабатываться, должна быть максимально строгой и максимально объективной. Чтобы делать строгую методологию, нам надо задавать больше вопросов, связанных со смежными областями: нейронаукой, эволюционной психологией, задачами оптимизации. Надо ставить больше экспериментов с новыми мощностями. В любом случае, мы больше узнаем про себя. Мне кажется, что это очень здорово.

Александр Соколов. Спасибо, Татьяна. Сергей, теперь прошу вас подвести итог дискуссии. А ваше мнение изменилось хотя бы отчасти? Что-то полезное вы узнали сегодня?

Сергей Марков. Да. Я хотел бы поблагодарить Татьяну за очень продуктивную и конструктивную дискуссию. Конечно, мы меняемся. Обсуждая такие вопросы с интеллектуальным оппонентом, ты всегда узнаешь что-то новое и в какой-то мере корректируешь свою позицию. Она вряд ли поменялась радикально. Но я думаю, что разница между нашими позициями не так велика, как может показаться со стороны. В любом случае это было очень полезно и в какой-то мере будет оказывать влияние на мою дальнейшую работу.

Александр Соколов. Наши зрители еще голосуют. Я пока попрошу участников сегодняшних дебатов выбрать авторов лучших вопросов. У меня две книжки: «Человеческие сети» издательства «Корпус» и «Как быть человеком в эпоху машин». Я попрошу сначала Сергея, а потом Татьяну выбрать авторов. Сейчас я перечислю, какие были вопросы: про творческие способности и генератор случайных чисел; про то, куда смотреть разработчику, который хочет работать с человеческой речью; про автоматизацию управления АЭС; про внедрение эмоций для комфорта работы с ИИ; про идеи Марвина Ли Минского; про три закона робототехники для могучих роботов в далеком будущем. Сергей, ваш выбор.

Сергей Марков. Вопрос про Марвина Ли Минского мне больше всего понравился. Хотя все вопросы были безусловно интересны. Трудно выбирать.

Александр Соколов. Книга «Человеческие сети» уходит Александру Багме. Татьяна, ваш выбор.

Татьяна Шаврина. Жалко, что мы не можем искусственному интеллекту тоже ничего дать, он вопросы тоже задавал.

Александр Соколов. Почему не можете? Сергей является разработчиком.

Сергей Марков. Я не открою большого секрета, если скажу, что Татьяна тоже является одним из разработчиков этой системы, только со стороны своего подразделения. Боюсь, нам придется книжку делить пополам.

Александр Соколов. Загрузить текст этой книги, присовокупить к базе текстов.

Татьяна Шаврина. Оцифруем и загрузим. Я думаю, что Сергей так или иначе получит книгу, потому что он спикер. Давайте отдадим вопросу про искусство.

Александр Соколов. Этот вопрос задавал «Пирожок с ковидлом». Наш постоянный зритель получает книгу «Как быть человеком в эпоху машин». Сейчас я попрошу коллег посмотреть результаты голосований и сравнить, как голосовали зрители в начале и в конце. Сначала большинство проголосовало за вариант «в обозримом будущем», на втором месте вариант «в далеком будущем». Интересно получается, что в ходе дебатов часть голосовавших за обозримое будущее проголосовали за далекое будущее.

Источник: https://www.youtube.com/watch?v=sC–NGQxToM

Татьяна, ваша скептическая позиция убедила некую часть зрителей стать более осторожными в своих оценках. Это здорово. Мы в очередной раз видим, как меняется мнение зрителей в результате нашей работы. Я благодарю вас, дорогие друзья, благодарю Сергея, благодарю Татьяну. Сергей тоже без приза не останется. Замечательная левитирующая пирамидка от проекта @levilogo.ru отправится к Сергею. Татьяна получает замечательного пингвинопитека-мыслителя от Павла Красного и замечательные деревянные подставки для смартфонов от проекта gen.ru.

Участникам дебатов я хочу сказать, что у меня есть мечта, чтобы мы через несколько лет провели дебаты, в которых один из участников был бы системой искусственного интеллекта. Вдруг это получится. По крайней мере, чтобы искусственный интеллект был модератором, который следил бы за тем, чтобы дискуссия шла по правилам корректной научной дискуссии, как принято на форуме «Ученые против мифов». Призом бы в этих дебатах была бы книга Сергея Маркова, которую, я надеюсь, он напишет и издаст очень скоро. Спасибо.

“Ах, обмануть меня нетрудно! Я сам обманываться рад!» Поэт сказал это о любви, но любовь бывает разной. Например, любовь к инопланетянам.