В июле на заседании правительства РК приняли «стратегический документ» – концепцию внедрения технологий искусственного интеллекта в разные сферы экономики. Юридическое толкование термина «искусственный интеллект» до сих пор во многих странах мира не прописано. Споры-дискуссии все еще продолжаются. В Казахстане тоже. В вопросе разобрался корреспондент медиапортала Caravan.kz.
Но к 2029 году «количество продуктов с применением искусственного интеллекта (ИИ) должно вырасти в пять раз, — предупредил подчиненных премьер-министр Казахстана Олжас Бектенов. — Соответственно, должна увеличиться доля образовательных программ по искусственному интеллекту».
Что сделано за это время?
Справка «Каравана»
В Казахстане начали собирать данные из госорганов в Smart data ukimet, к которым подключили около сотни информационных баз. Предусмотрено создание суперкомпьютера, национальной платформы искусственного интеллекта, строительство центров обработки данных. Запланированы образовательные и акселерационные программы. 17 вузов уже внедрили 15 направлений по ИИ. По ним обучаются более 2000 студентов.
И это всё? А кто, где и, главное, когда начнет применять искусственный разум?
Ну и главный вопрос: сколько это будет стоить налогоплательщикам? А на него нет ответа.
На сайтах многих министерств Казахстана я не нашел ни одного упоминания о применении искусственного интеллекта в ближайшее время. Но, по словам премьера, прежде всего ИИ применят в госуправлении, субъектах естественных монополий, нефтегазовой, горнодобывающей, энергетической, транспортно-логистической, водоснабжающей сферах и в сельском хозяйстве.
Чего-то опасаются? А если искусственный разум накосячит? А «косяки» могут зависеть от очень многих факторов – последствия могут быть катастрофическими. Виноваты будут вчерашние студенты? Или чиновники, которые задали им определенные, задачи и требуемый результат?
А у нас уже сегодня есть специалисты, которые способны программировать ИИ в интересах страны?
Прокомментировать ситуацию редакция попросила юриста Алексея Шмидта.
Одна голова – хорошо. Если вторая механическая – результат сомнителен
«Искусственный разум придумал человек. Он задает ИИ нужные параметры решения задачи и получает соответствующий ответ. Если человек дал задание с ошибками – кто будет отвечать? С точки зрения традиционной логики – машина. С точки зрения юриспруденции – человек. А ему свойственно ошибаться. Второй вопрос: а насколько логично и последовательно выстроена программа, которая позволяет механическому разуму делать аргументированные выводы? Робот может делать это без учета специфики той или иной страны, ее законов? Я имею в виду коррупционную составляющую. Те же госзакупки. ИИ может предложить самое простое решение проблемы, но не учесть взятки, трайбализм, «откаты» и прочие чудеса нашего рынка. Поэтому не верю, что к 2030 году нашим правительством будет рулить искусственный интеллект. Хот у нас всякие чудеса возможны. Думаю, через 30-40 лет правительства вообще станут не нужны во всем мире. Если, конечно, люди научатся правильно программировать ИИ на решение конкретных задач».
Комментарий программиста Юрия Квашенкова (Караганда).
«Если вы идете в супермаркет, то помимо нужных вам продуктов можете купить что-то совсем необязательное. Искусственный разум такого себе не позволит. Он пойдет по строго заданной ему программе покупок. Ничего лишнего! Если вы купили компьютер, установили программу Word, чтобы печатать тексты, Word подчеркнёт красной линей слово, написанное с ошибкой. Или зеленой – если пропущена запятая. Это придумал человек, а не компьютерная программа. Она выполняет указания, прописанные гомо сапиенсом, а не процессором. Я вообще против использования термина «искусственный интеллект». Это просто станок для производства каких-то материалов. Потому что именно человек, а не ИИ, придумал колесо, компьютер, ну и этот виртуальный разум. Ваш вопрос, когда искусственный разум в Казахстане заменит правительство не ко мне. Я не политик. Но цена в любом случае будет высокой. Или очень высокой».
Справка «Каравана»
Года 2-3 назад американский эксперт по ИИ Джефф Симмонс заявил, что наступит момент, когда решения отдельных мировых лидеров и ИИ вступят в противоречия, которые приведут к катастрофическим последствиям в экономике и даже к третьей мировой войне: «Разум человека и нейромозги – это разные субстанции. Превосходство ИИ может сокрушить человечество».
Заметили слово «превосходство»? Оно случайно возникло?
А теперь — о высоком. Об искусстве.
Папа Карло, который сделал Буратино – тоже создатель ИИ?
Известный казахстанский композитор, продюсер и режиссер Ринат Абдулхаликов, который командует сейчас агентством по защите авторских прав казахстанских артистов, тоже сомневается, что правами на музыкальное произведение, созданное при помощи ИИ, должны обладать производители «инструмента» по имени ИИ.
— Ни собака, ни попугай, ни обезьяна – только человек может придумать оригинальную музыку. Автором надо считать только человека. Он задает ИИ тональность, жанр, мелодии, голос, много других параметров для своего произведения. Папа Карло из бревна деревянного мальчика сделал. И в конце сказки этот деревянный разум (посмеивается) стал умнее.
— Но сначала он азбуку продал за пять сольдо! Дурак на Поле дураков?
— Искусственный интеллект самообучается! Как и Буратино. В любом случае автором всегда является человек. В ИИ заложили почти весь научный, культурный архив человечества. Офигеть, какую базу данных за тысячи лет!
— Ринат, студенты наших вузов при написании рефератов и других работ начали пользоваться ИИ. Это нормально?
— Бесполезно. Я в этом году закончил магистратуру – юриспруденция и авторское право. Подумал, почему бы не воспользоваться искусственным разумом? Задал параметры работы. Получил в ответ (длинная пауза)… набор умных и красивых слов. А в целом бред! С юридической точки зрения – полная бесполезность. Сначала мысль: неправильно «зарядил». Отправил другому ИИ. Тот выдал все обтекаемо. Никакой, блин, конкретики. Возможно, этот разум все еще на стадии развития и накопления человеческих достижений во всех сферах деятельности.
— Были случаи, когда авторы произведений обращались в агентства по защите авторских прав в Казахстане, когда использовали ИИ при написании своих хитов?
— У нас таких фактов нет. Пока нет. В мире – в Австралии, Америке, ещё-то где-то – разработчики ИИ обращались в суды против этих заказчиков музыкального контента. Где-то иски были удовлетворены частично. Я не знаю деталей. В любом случае программирование искусственному интеллекту все равно задает человек.
Может ли инструмент с программным управлением быть творческим разумом?
Сегодня есть четыре версии развития искусственного интеллекта: нечеткая логика, экспертные системы, машинное обучение и нейронные сети.
Первая версия кошмара для ИИ – понимание формулировки ответа человека на вопрос: «Ты едешь с нами? – Да нет, наверное».
Трезвый человек поймёт суть ответа. Искусственный разум может впасть в кому от решения этой задачи.
Юрий Квашенков: «Ни один механизм, ни одна программа сегодня не может дать четкие ответы в рамках задания – да/нет или черное/белое. Потому что задание может быть неоднозначным с большим количеством вариантов. Или нечетко сформулированным. Нюансы – тонкая штука. Аргументированная вариативность решения проблем искусственного разума основана на механической логике. А люди иногда принимают решения на основе личного жизненного опыта. У ИИ такого опыта нет. Но очень скоро этот механический разум начнет учитывать нелогические поступки людей и предлагать свои варианты решения проблем».
С Ринатом Абдулхаликовым я общался по телефону. В тот момент, когда он начал охарактеризовывать работу ИИ, забарахлил звук.
— Ринат, что ты сейчас сказал про поведение и суть машинного мышления?
— Нео… (опять помехи)
На записи отчетливо слышно только одно слово НЕОДУЩЕСТВЛЕННОЕ.
Случайность? Механизм создания выводов машины искусственного интеллекта использует всю базу данных, созданную людьми. Использует все приемы и технологии для формулирования своих выводов. Но и эти формы и алгоритмы тоже придумали люди – от дедукции до индукции и абдукции. То есть на основе предположений и гипотез… На прошлой неделе миллиардер и основатель компании Microsoft Билл Гейтс поставил разработчиков искусственного интеллекта в один ряд с разработчиками ядерного и биологического оружия. Да, Гейтс признал, что ИИ «можно использовать в благих целях – медицине, образовании». Но ИИ, как он сказал в интервью британской газете The Independent, «изменит общество и человеческую цивилизацию сильнее всех других технологических и научных достижений… ИИ-революция переформатирует нас сильнее, чем предыдущие скачки в развитии человечества». И еще раз сказал, что окончательные решения принимают все-таки люди. Но пользоваться сегодня подсказками от несовершенных машин – большая ошибка, которая может привести к глобальной катастрофе.