Но в парламенте Казахстана уже почти месяц на рассмотрении находится законопроект, который призван установить некие правила игры с этим получеловеческим разумом. В ситуации разобрался корреспондент медиапортала Caravan.kz.
Идею выдвинула секретарь палаты по экономической реформе и региональному развитию Екатерина Смышляева. По ее словам, «идет большая технологическая гонка. Каждая страна хочет создать максимально комфортные условия для технологий. Однако стали возникать вопросы авторского права, безопасности, долгосрочного инвестирования».
Подозреваю, с этим «зверем» однажды придется подписывать договор. И Казахстан будет первым на этом фронте? Рассмотрим все варианты.
В некоторых странах тоже обсуждают эти мутные перспективы и неочевидные проблемы. Потому как, во-первых, не совсем понятно, как можно управлять тем, от чего даже некоторые специалисты в растерянности: механизм запущен. Он сам себя развивает, ежесекундно обогащает свою память и предлагает решения, до которых ученые умы и додуматься не могли. Во-вторых, насколько человечество сможет контролировать ситуацию в будущем? Фантастический боевик «Терминатор» с Арни Шварценеггером в главной роли 1984 года крепко «взболтнул желток» в голове. Намёк оказался пророческим. Подозрительно пророческим. Режиссер Джеймс Кэмерон что-то знал?
Напомним цитаты из этого фильма
«Машины прогрессируют быстрее, чем мы предполагали. Они изобретают всё новые способы уничтожения…
Что делает нас людьми? То, что нельзя запрограммировать. Это человеческое сердце, которого нет у машин…
Сказать, в чём разница между нами и машинами? Мы хороним мёртвых. Но тебя никто хоронить не придёт…
У всякой машины есть выключатель…
Скайнет безжалостен и непредсказуем. Машины обратят против тебя всё то лучшее, что в тебе есть…
Сопротивление? Чушь! Бесполезно воевать с машинами. Не будем высовываться – не тронут. Нас всех уничтожат, если не будем сопротивляться!
Они пленных не берут»…
Ни одна юрисдикция в мире еще не придумала, как и на каких условиях подписать договор о сотрудничестве с этим чудовищем Франкенштейна. Нет общепринятых правил, нет единых формул, нет даже чётких понятий и сформулированных определений – что такое искусственный интеллект.
Да, есть Европейский акт – свод наспех придуманных правил и норм, которые призваны как-то урегулировать общение с искусственным разумом. Но жизнь заставляет постоянно вносить в него изменения и поправки. В разных странах – разные подходы. Общей позиции нет до сих пор.
Справка «Каравана»
В 1942 году знаменитый американский фантаст Айзек Азимов написал три закона робототехники. Первый: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Второй: робот должен повиноваться всем приказам, которые даёт человек. Кроме тех случаев, когда эти приказы противоречат Первому закону. И третий: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Насколько они выполнимы завтра? Или послезавтра? Да Терминатор его знает.
Бумага против «железа»?
По словам г-жи Смышляевой, в нашем законопроекте пока 7 глав и 27 статей, которые регулируют общественные отношения в сфере ИИ. Разработчики «постарались соблюсти принцип технологической нейтральности». Они должны обеспечить «прозрачность и объяснимость алгоритмов искусственного интеллекта». А где гарантии, что это «железо» завтра не обойдет и «прозрачность», и рамки «технологической нейтральности», и изучение «алгоритмов» поведения ИИ?
Еще из депутатского: «Некоторые страны до сих пор делают ставку исключительно на технологии саморегулирования». Имеется в виду, что искусственный мозг однажды сам себя начнет регулировать и ограничивать? Дальше можно не смеяться: «Однако мы пошли по другому пути. Мы опираемся на государственное регулирование в этой сфере… Базовыми в этом вопросе будут правоохранительные органы, которые будут отвечать непосредственно за национальную безопасность, информационную и права человека».
А как государство в лице МВД, КНБ и других органов сможет контролировать работу этого бездушного разума, который совершенствуется стремительнее, чем министр МВД подпишет приказ о вызове ИИ на допрос или предложение о явке с повинной?
А еще Екатерина Васильевна сообщила, что в законопроекте предусмотрены три степени риска: низкий, средний и высокий. Последняя — это когда ситуация «касается жизни и здоровья человека, государственного управления и принятия решений». Разумно. Только вот кто, в какие сроки (если речь идет даже не о днях, а часах и минутах) станет принимать решения? А если их еще надо согласовать со всеми уполномоченными органами? С нашей бюрократией…
Ну и вишенка на баурсаке: «Там, где нужно будет ограничить бурное развитие технологий ради безопасности или блага человека – это будет прописано в законах».
Как?! Как наш парламент закроет искусственный мозг одним законом? В какие ворота и окна Интернета влезет эта идея хотя бы с технической стороны? Отключить Всемирную сеть всем гражданам Казахстана, включая бастыков?
Может ли искусственный разум заменить живых чиновников?
Еще как! Американский президент Дональд Трамп с подачи миллиардера и инноватора Илона Маска (в феврале он назначен директором департамента эффективности правительства) без тени сомнения уволил несколько десятков тысяч госслужащих. Начиная с Пентагона и кончая министерством образования. Они де бесцеремонно сжирают десятки миллиардов долларов в год. А толку от них как от козла молока. Вон этих бездельников! С месяц назад Илон Эрролович признался, что активно пользуется плодами искусственного интеллекта (иногда ночами), но решения принимает сам. И при этом ни с кем не советуется. Самый богатый человек планеты Земля может себе это позволить: 356,7 миллиарда долларов на счете! Богатые умеют считать. И знают, на чем можно сэкономить. Маск — тем более.
Когда пару лет назад началась всемирная байга вокруг ИИ, обзвонил нескольких юристов. Вопрос был один: как нечеловеческий разум может заменить чиновников? Все, как один, запретили называть их имена-фамилии, но все, да-да, все! – озвучили одну версию. Это не катастрофа, но что-то близко.
Потому что придется переписывать кучу законов Казахстана, госпрограммы и национальные проекты. Те самые, которые провалились. И на которые были потрачены десятки и сотни миллиардов тенге. Впустую.
А если бы их проанализировал ИИ?
У искусственного интеллекта нет эмоций. Он, бездушный, руководствуется правилами, которые ему задал человек. И совершенно хладнокровно может испортить настроение миллионам и миллиардам двуногих обитателей Земли. Нашёл несоответствие – выдал оценку «ошибка». Коррупция? Ну, это пусть специальные органы разбираются. Этому ИИ все люди – по барабану: рабочие, министры, инженеры, генералы, артисты, спортсмены…
Юрист Сергей Н. «Искусственный интеллект – если примут закон поспешно, это все равно что на мину наступить. Мы же до сих пор не знаем всех возможностей этого интеллекта».
Канат Б. «Боюсь сказать, но тогда, возможно, придется менять не только законы страны, но и Конституцию».
Российский экономист Сергей Лучинов (в интервью 2024 года): «Война между человеческим и искусственным мозгом только начинается. Мы слишком ожирели. И не факт, что победим».
Против фактов не попрешь
В начале марта депутат мажилиса Елнур Бейсенбаев заметил: «По данным на международном экономическом форуме, искусственный интеллект заменит порядка 90 миллионов рабочих мест. В Казахстане на самом деле вопрос безработицы занижен правительством… Реальная цифра — 12-13 процентов. Это порядка миллиона человек».
Согласно последней справке от Всемирной организации здравоохранения (02.2025 год): «Человечество глупеет. Умственные способности взрослых жителей развитых стран падают». И еще: «Люди перестали считать деньги, которые им выдают в виде помощи».
Это результаты опрошенных 160 тысяч человек в 31 одной стране мира в конце прошлого года.
P.S. В конце января президент Токаев поручил правительству приступить к внедрению инструментов искусственного интеллекта в госорганах и национальных компаниях. «Следует форсировать его развитие в стране. До конца текущего года предстоит интегрировать его элементы в систему электронного правительства».