Команда робототехников ИТМО работает над созданием робота-каллиграфа, который рисует картины за деньги. Группа аспирантов факультета систем управления и робототехники работает над полностью автономным роботом-художником. Это проект, призванный продемонстрировать возможность создания и функционирования автономных систем, основанных на принципе робономики или экономики роботов. Корреспондент ITMO.NEWS поговорил с Иваном Берманом, Алексеем Овчаровым и Вадимом Манаенко о проекте, их взгляде на этический аспект взаимодействия с роботами и сотрудничестве с лабораторией Массачусетского технологического института.
Расскажите о вашем проекте, как все начиналось? Почему именно робот-художник?
Иван Берман: Началось все летом 2017 года — тогда появилась задача показать один из кейсов использования робономики. Робономика — это сочетание робототехники с финансовой системой. Если кратко, то наши коллеги и руководители, Сергей Лоншаков и Александр Капитонов, несколько лет назад запустили проект по интеграции распределенного реестра и криптовалют с интеллектуальными устройствами: с роботами, датчиками и любыми устройствами, которые можно подключить к сети и которые выполняют какую-то работу — и при этом за свою работу они получают денежный эквивалент в криптовалюте. Соответственно, в тот момент искались различные пути доказательства работоспособности этой концепции: где это можно показать, как это можно внедрить и применить. И вот один из примеров реализации — робот-художник.
Алексей Овчаров: Хотелось в первую очередь, чтобы в этом проекте использовались нейронные системы с обучением, с каким-то элементом случайности, чтобы процесс был максимально «очеловечен».
Изначально была идея собрать определенный пул данных — популярные видео с Youtube, записи в Твиттере, посты в Фейсбуке, фотографии в Инстаграме — чтобы можно было их проанализировать, прогнать через нейронную сеть и как-то сформировать общую картину мира, визуализировать картину происходящего. Но, к сожалению, здесь довольно быстро возникли проблемы — нам не дали доступ к данным. Поэтому мы решили сделать это вручную с помощью Microsoft Azure (это постоянно расширяющийся набор служб облачных вычислений, который помогает организациям решать бизнес-задачи. Azure предоставляет свободу создания и развертывания приложений, а также управления ими в обширной глобальной сети с использованием ряда инструментов и платформ — прим.ред.). Например, из текста или из картинки можно извлекать слово, которое максимально обще описывает то, что ему отдали.
Так мы пришли к тому, что у нас есть, например, слово, которое хранит в себе достаточно много информации — им можно описать, допустим, все, что сейчас происходит в большинстве государств мира.
Иван Берман: Сначала мы искали посты в Твиттере, причем первая партия для тестирования отбиралась буквально руками. Сейчас другой наш коллега написал программу для работы уже с Инстаграмом: по выбранному хештегу отбирается массив постов, далее из этих постов когнитивный сервис Microsoft формирует список ключевых слов. Из этого пула выбирается какое-то одно, а затем просто переводится в японский иероглиф. Дальше он переводится в изображение, изображение обрабатывается и передается роботу на рисование.
Алексей Овчаров: В России очень популярны иероглифы, которые большинству совершенно непонятны, но выглядят красиво. И очень интересно с точки зрения техники, как их правильно рисовать. Есть каллиграфическая культура, целая наука, как это правильно делать. Для нас эта задача была очень интересна как с технической, так и с художественной точки зрения.
Первоначально робот рисовал отдельными квадратными мазками, но первые эскизы и пробы выглядели не очень презентабельно. Поэтому мы перешли к тому, чтобы выбирать определенную кисточку, учили робота рисовать под определенным наклоном — и получилось рисовать весь иероглиф сразу.
Ваш робот умеет рисовать только иероглифы или что-то еще? Умеет ли он рисовать полноценные картины?
Алексей Овчаров: Есть результаты двух-трехмесячной давности: наш робот рисовал специально для мероприятия, которое проходило в США. Это был логотип Techstars — акселерационной программы, в которой участвуют наши руководители. Получилась вполне себе полноценная картина, но это не художественное изображение, в нем не было, например, переходов и градиентов.
Вадим Манаенко: В данный момент робот находится в Тольятти, но готовится к отправке к нам, в корпус на Биржевой линии. Для него будет подобрана команда разработчиков, которые смогут полноценно уделять ему время. И тогда мы на основании тех знаний, которые у нас сейчас уже есть, расширим и продолжим совершенствовать его алгоритм обучения и его навыки рисования.
Есть идея сделать его совершенно автономным: он будет самостоятельно рисовать, зарабатывать себе этим на жизнь, оплачивать свои серверные мощности, заказывать холсты и краски в магазине — в общем, существовать как автономная организация. Инженеры будут помогать ему совершенствовать свои навыки — так, может быть, и до картин дойдем.
Расскажите подробнее, как именно зарабатывает робот? Он рисует иероглифы на заказ или продает уже готовые картины? Где вы размещаете предложение, как люди вас находят?
Иван Берман: В конце 2018 года мы провели аукцион с целью протестировать всю эту систему. Аукцион проходил онлайн через децентрализованное приложение для работы с блокчейном, с оплатой в криптовалюте. Условно говоря, это был чат, в который мы закидывали предложения, и через приложение происходила оплата. Далее нужно было договориться с победителями аукциона, куда высылать картину. И пока что это момент, где роботу приходится помогать, потому что полностью автоматической системы доставки еще нет. Но мы можем представить себе, как в будущем картина отправляется, например, с дроном-доставщиком до своего адресата.
Вадим Манаенко: В случае с роботом-художником мы пытались рассмотреть жизненный сценарий: есть художники, которые зарабатывают, рисуя на заказ, а есть те, которые творят, исходя из своих идей. Мы попытались сделать так, чтобы робот из своей «головы», своих «мыслей» рисовал картины, которые затем были выставлены на аукционе. Победившему публично присваивалось право владения на эту картину. Одно из свойств блокчейна состоит в том, что информация, которая там сохранена, остается неизменной — ее нельзя подделать. И когда происходит заключение такой сделки между роботом и человеком, обе стороны подписывают свои сообщения ключами, которые хранятся только у них. Потом уже в публичном блокчейне мы можем посмотреть эти ключи и установить, кому принадлежит эта картина. Так покупатель получает и физический объект, и запись о передаче во владение, которая сейчас не имеет юридической силы, но в ближайшем будущем, скорее всего, станет легальной.
Как вы для себя решаете этический вопрос: не является ли это эксплуатацией художественных способностей робота? И как вы смотрите на спор об авторских правах, кому они принадлежат: роботу, искусственному интеллекту или его создателям?
Иван Берман: Сама идея, изначальный план сделать самообеспечивающегося робота-художника как раз состоит в том, что люди, которым это интересно, должны ему оплачивать работу. Проект предназначен в том числе чтобы продемонстрировать возможность автономного будущего. Когда капитал будет генерироваться уже машинами, причем в виде замкнутого цикла: робот нарисовал, робот продал, получил средства, отправил доставку, обратился к какому-нибудь магазину для поставок красок и холстов.
С этической точки зрения, конечно, есть спорные моменты. Регуляторы и близкие к ним научные сообщества достаточно скептичны в этом вопросе. Например, есть книга Ethically Aligned Design, которая была создана под патронажем IEEE (Global Initiative on Ethics of Autonomous and Intelligent Systems — научное сообщество, которое проводит конференции, выпускает статьи и разрабатывает стандарты в робототехнике и искусственном интеллекте). В ней красной нитью проходит мысль, что нам нельзя давать роботам вот эту свободу, эту автономию. Но история показывает, что невозможно просто взять и запретить что-то. Кто-нибудь когда-нибудь все равно начнет делать такие разработки, исходя из своих моральных соображений или просто из корысти. Рано или поздно это в любом случае выйдет из-под контроля. И лучше бы нам всем быть к этому готовыми.
Наши научные руководители, а также коллеги из MIT Media Lab (Медиа-лаборатории Массачусетского технологического института) считают, что подобный нашему подход — связанный с добавлением криптовалюты, защищенности и, самое главное, прозрачности отношений между человеком и роботом — может способствовать улучшению ситуации. Будет гораздо хуже, если эти новые отношения появятся внезапно и людям придется буквально бороться за свое место в новом технологическом мире. Я за то, чтобы как можно раньше поспособствовать такому синтезу человечества и машин. Это нам же на пользу.
Пока роботы не настолько «умны», чтобы можно было им, условно говоря, сопереживать. Но рано или поздно как минимум имитация человеческого поведения у роботов обязательно появится. И человеческая натура устроена так, что у некоторых людей появится к ним сочувствие и даже жалость.
Алексей Овчаров: В целом уже сейчас есть диссонанс по этому поводу. Возникает куча вопросов по поводу этических норм, касаемых робототехнических систем. Такие же этические вопросы возникают при обсуждении нейронных сетей, даже есть высказывание: «Не так страшно, если машина пройдет тест Тьюринга. Страшно, если она специально его завалит».
Например, Илон Маск, основавший компанию OpenAI (некоммерческая исследовательская компания, занимающаяся искусственным интеллектом c целью развивать открытый и дружественный ИИ), часто в своих интервью говорит, что считает нейронные сети небезопасными, что они могут как-то навредить человечеству. Поэтому он старается занять эти нишу не с точки зрения бизнеса и зарабатывания денег, а именно чтобы стараться эти нейронные сети как-то регулировать.
У нас тоже стоит такая задача — мы пытаемся построить систему, способную к саморегуляции и самостоятельной жизни и которая была бы для человека в целом безопасна. Это во многом выгодно людям. Если на предприятии построить систему с полностью автоматическим обслуживанием, например, автономным бухгалтерским учетом, можно минимизировать затраты на проведение всевозможных финансовых операций, избавиться от всей бумажной работы. При этом эта система не будет абсолютно независима от человека, ее собственное благополучие будет зависеть от нас, а все ее действия должны будут быть прозрачными для стороннего наблюдения. ведь робот не будет иметь персонального счета в банке. Это будет более абстрагированная вещь, например, он сможет использовать счет организации, чтобы списывать деньги на собственный ремонт.
Расскажите про ваше сотрудничество с MIT Media Lab, в чем оно заключается?
Иван Берман: Несколько лет назад наш руководитель Александр Капитонов на одной из конференций познакомился с Эдуардо Феррером — сотрудником этой лаборатории, который занимается роевой робототехникой, реализованной на блокчейн-технологиях. Потому что когда роботов действительно очень много, вопрос безопасности стоит очень остро. И один из вариантов решения — использовать технологию блокчейн. У Александра Капитонова была разработка, у доктора Феррера — интерес к ней. С тех пор он старается приезжать туда хотя бы раз в год на Symposium on Blockchain, продвигать наши идеи и сотрудничать с ними.
Почему MIT Media Lab заинтересовались нами? Потому что это такая лаборатория, которая смотрит на тренды, которые в будущем могут изменить жизнь людей. Они берут различные сферы науки, искусства и пытаются на этой основе сделать какие-то проекты, которые в будущем будут интегрироваться в жизнь самым невероятным образом. Сами себя они называют антидисциплинарной лабораторией. Известный пример — они поспособствовали созданию набора LEGO Mindstorms, который позволяет собирать маленькие робототехнические устройства. Он стал очень популярным не только в качестве обучающего материала, но и как площадка для экспериментов. Вроде бы обычная игрушка, но оказалось, что многие робототехнические вещи очень удобно на ней тестировать.
В общем, они заинтересовались нашим проектом, потому что подобная технология — самообеспечивающегося робота, который заменяет человеческий труд — она действительно способна сильно повлиять на будущее человечества.
В коллаборации с MIT Media Lab у нас уже выпущена совместная статья, вторая готовится к публикации. Первая по теме новых робототехнических сервисов, которые можно построить на базе робономики и блокчейна, а вторая конкретно по роботу-художнику. Также планируется в ближайшем будущем пригласить сотрудников MIT к нам в ИТМО для расширения международного сотрудничества.
Помимо научных статей, какие у вас дальнейшие планы?
Иван Берман: У нас давно был план сделать робота-скульптора, и пару месяцев назад мы подумали, что можно сделать не просто скульптуры, а такие двумерные барельефы. Мы пока не знаем, что это будет, из какого материала будут изготавливаться скульптуры, будет ли это совмещено с 3D-принтером. Единственное, нам нужны люди, которые захотят этим заниматься.
Автор: Екатерина Швырева
Источник: НИУ ИТМО
