Предпосылки развития науки искусственного интеллекта
История искусственного интеллекта как нового научного направления начинается в середине XX века . К этому времени уже было сформировано множество предпосылок его зарождения: среди философов давно шли споры о природе человека и процессе познания мира, нейрофизиологи и психологи разработали ряд теорий относительно работы человеческого мозга и мышления, экономисты и математики задавались вопросами оптимальных расчётов и представления знаний о мире в формализованном виде; наконец, зародился фундамент математической теории вычислений — теории алгоритмов — и были созданы первые компьютеры.
Возможности новых машин в плане скорости вычислений оказались больше человеческих, поэтому в учёном сообществе закрался вопрос: каковы границы возможностей компьютеров и достигнут ли машины уровня развития человека? В 1950 году один из пионеров в области вычислительной техники, английский учёный Алан Тьюринг , пишет статью под названием «Может ли машина мыслить?» , в которой описывает процедуру, с помощью которой можно будет определить момент, когда машина сравняется в плане разумности с человеком, получившую название теста Тьюринга .
История развития искусственного интеллекта в СССР и России
В СССР работы в области искусственного интеллекта начались в 1960-х годах . В Московском университете и Академии наук был выполнен ряд пионерских исследований, возглавленных Вениамином Пушкиным и Д. А. Поспеловым .
В 1964 году была опубликована работа ленинградского логика Сергея Маслова «Обратный метод установления выводимости в классическом исчислении предикатов», в которой впервые предлагался метод автоматического поиска доказательства теорем в исчислении предикатов.
До 1970-х годов в СССР все исследования ИИ велись в рамках кибернетики . По мнению Д. А. Поспелова , науки «информатика» и «кибернетика» были в это время смешаны, по причине ряда академических споров. Только в конце 1970-х в СССР начинают говорить о научном направлении «искусственный интеллект» как разделе информатики . При этом родилась и сама информатика, подчинив себе прародительницу «кибернетику». В конце 1970-х создаётся толковый словарь по искусственному интеллекту, трёхтомный справочник по искусственному интеллекту и энциклопедический словарь по информатике, в котором разделы «Кибернетика» и «Искусственный интеллект» входят наряду с другими разделами в состав информатики. Термин «информатика» в 1980-е годы получает широкое распространение, а термин «кибернетика» постепенно исчезает из обращения, сохранившись лишь в названиях тех институтов, которые возникли в эпоху «кибернетического бума» конца 1950-х — начала 1960-х годов . Такой взгляд на искусственный интеллект, кибернетику и информатику разделяется не всеми. Это связано с тем, что на Западе границы данных наук несколько отличаются .
Каковы некоторые примеры искусственного интеллекта?
Рынок технологий искусственного интеллекта
Технологии искусственного интеллекта применяются практически во всех сферах человеческой деятельности, так что у искусственного интеллекта большое будущее. Рынок продуктов, использующих ИИ, стремительно растет.
Мировой рынок
К 2022 году прогнозируемый объем рынка ИИ достигнет 52 миллиардов долларов. Возможно, это не такая уж большая цифра — к примеру, рынок компьютерных игр к этому же году превысит 130 миллиардов, а рынок смартфонов уже в 2018 был в 10 раз больше — 520 миллиардов.
Но рынок ИИ показывает беспримерно высокий рост — по некоторым оценкам, он увеличивается примерно на 30 % ежегодно (аналогичные показатели для игр и смартфонов — около 5 %). Если такие темпы внедрения технологий сохранятся еще несколько лет, можно ожидать, что скоро искусственный интеллект будет буквально повсюду.
Свой вклад в развитие ИИ вносят крупнейшие мировые IT-компании: Google, IBM, Intel, Nvidia. Среди стран лидируют США, Китай и Великобритания.
В России
Если в 2017 году проектов с использованием ИИ в России было всего несколько десятков, то в 2018 — уже сотни. По прогнозам экспертов, к 2020 году объем рынка достигнет 28 миллиардов рублей (примерно 450 миллионов долларов). Активнее всего новые технологии используются в финансовой сфере, а также телекоммуникациях, ритейле и энергетике. Некоторые компании нанимают команды специалистов, занимающихся исключительно вопросами разработки и внедрения систем ИИ.
Несмотря на то, что рост рынка идет в целом даже быстрее, чем в мире, есть проблемы. Главной бедой остается нехватка специалистов по машинному обучению. Значит, самое время заняться изучением ИИ, чтобы получить востребованную специальность и высокооплачиваемую работу.
Влияние искусственного интеллекта на рынок труда
Уже сегодня существуют области, где ИИ может заменить человека. Например, приложения могут отвечать клиентам по телефону или в чате на несложные вопросы. Это позволяет оптимизировать нагрузку операторов call-центров и даже сократить их штат.
На производстве ИИ способен управлять автоматикой и промышленными роботами. Искусственная нейросеть, постоянно контролирующая показатели множества датчиков, сумеет быстрее человека среагировать на нештатную ситуацию и предпринять правильные меры — отключить конвейер или остановить механизмы. Во многих случаях такие системы могут заранее предсказать неполадки и предотвратить ЧП.
ИИ будет вытеснять людей с рабочих мест. Он обходится дешевле и допускает меньше ошибок. Не умеет лениться, прокрастинировать и зависать в фейсбуке, не нуждается в отдыхе, сне и отпуске, не грустит и не устает. Идеальный работник.
В первую очередь искусственные нейросети потеснят человека в выполнении рутинных операций, возьмут на себя сложные расчеты, оценку рисков, сбор информации, моделирование ситуаций по заданным параметрам. ИИ можно задействовать на опасных и вредных производствах.
Но люди по-прежнему будут нужны там, где роботы еще долго не сумеют составить им конкуренцию. И речь не только о творческой сфере. ИИ пока способен выполнять только узкоспециализированные задачи, на которые его натренировали, поэтому заменить людей могут в той же мере, что калькулятор — математика. При этом развитие технологий ИИ открывает огромный рынок труда для специалистов, связанных с машинным обучением и обслуживанием интеллектуальной техники.
Глубокое обучение
Понятие «глубокое обучение» используется для описания нейронной сети и тех алгоритмов, на которых построена работа ИНС. Алгоритмы ИНС глубокого обучения направлены на прием «сырых» данных, из которых необходимо извлечь информацию и, впоследствии обработки, получить выходные данные.
Без данных алгоритмов программисту необходимо самому искать нужную информацию, в то время как ИНС, построенная на модели глубокого обучения, может сама найти нужные данные, обработать их и дать на выходе решение.
Обучение происходит следующим образом: система запускает поиск необходимой информации, получает входные данные, обрабатывает их, извлекает и выдает полезную информацию. Когда обучение пройдено, снижаются требования для поддержания работы модели к вычислительной мощности, памяти и энергии. Таким образом система тренируется выполнять какую-то конкретную задачу. Глубокое обучение может быть применено для решения задач разных направлений. На данный момент это инновация в сфере искусственного интеллекта.
Есть и другие виды обучения, например, обучение с учителем или с частичным привлечением учителя. В таком случае устанавливается контроль реальным человеком на некоторых этапах процесса.
Теневое обучение также предполагает участие человека в ходе обучения, когда перед поиском системой данных человек самостоятельно обрабатывает информацию и вносит необходимые показатели в систему сведений по специфике направления.
Основные угрозы, связанные с искусственным интеллектом
По мнению учёных, работающих в области исследования искусственного интеллекта, бояться «восстания машин», как это показано в голливудских фантастических кинолентах, в ближайшие 30-50 лет точно не стоит. Такого совершенства техника ещё не достигла. Однако это не означает, что опасности вовсе нет. Просто угрозы стоит ждать с другой стороны. Программы, алгоритмы всё ещё создаёт человек, он же ставит цели и задачи перед роботом. Чем точнее всё это продумано и внедрено, тем качественнее технология работает и помогает человеку. Но что будет, если сработает элементарный человеческий фактор и в программу закрадётся ошибка или неточность, которую машина интерпретирует неправильно?
Перевод на русский или английский язык текста песни — Не Бойся, это не больно исполнителя Птаха feat. 5плюх:
While on the streets there is no God — I live,Breathe poison, I do not sleep at night.While it is not I look at what is happening on the huts,Remembering yellow screams of people killed in the wards.
While heavenly angels sleep in thickets,In my dreams I’m those who left, more and more often.While the demons wander in the twilight of the day,People are dying like flies, killing himself.
During the seven locks on the beast with seven horns,Someone melts spoon in it seven points of the water and the light beige stone.Mother’s milk is yellow-green.Svёdёnnye cheekbones, the sound of wheels as the music of the wind.
Chunks of memory of last night,Life is a black cat’s face.Persons with a screen built grimaces,Demons power, demons and putting?
While angels sleep, but God did not come,The show will work, it is a hell of a show.It’s a hell of a show …….
Do not worry, it does not hurt,With one time you do not get used to it — it’s fun.Do not jerking you, you’re in my way,Do not ssy not otkineshsya, I’m whisking.
Do not worry, it does not hurt,With one time you do not get used to it — it’s fun.Do not jerking you, you’re in my way,I do not ssy not zaduyu, I’m whisking.
Well, thump,Cigarette smoke a pack a day, but shmalyaet nonsense.Here on the area directly cut down, listen,And the fun with this theme, I see you, covers.
But something there is a stabbing me point plays,Since childhood, I am afraid of injections, dick knows.And indeed a party to the zhiznyak these jokes,But you during cool, fly though.
A and the pupils have gone for ever and trembling,And, shit, you do not see this as cocks pleased.Well for a thrill? I saw a boy in the yard under it,I am running barefoot in the snow. I think that for people, man?
I’m not SSA, it freezes somehow, at least for a thrill,I am fond as the autumn leaf on the pavement of the Arbat.Listen, however, direct cool that fucked up,And then there guys out there and puke already itching like animals.
When such masters do not know,Do I become an apprentice?
Do not worry, it does not hurt,With one time you do not get used to it — it’s fun.Do not jerking you, you’re in my way,Do not ssy not otkineshsya, I’m whisking.
Do not worry, it does not hurt,With one time you do not get used to it — it’s fun.Do not jerking you, you’re in my way,I do not ssy not zaduyu, I’m whisking.
Сможем ли мы контролировать искусственный интеллект?
В фильмах искусственный интеллект служит диктаторам, но вероятность такого сценария слишком мала: вряд ли сверхразум будет как-нибудь различать людей. Сложно представить и длительную борьбу между людьми и роботами. Более вероятный сценарий – все исчезнет в мгновение, превратившись в один большой компьютер, занятый ему одному понятными вычислениями.
Как не допустить подобного? Наверное, помнить, что важно все контролировать: ничего не начинать, не запускать и не включать, пока не будет уверенности в возможности выключить, остановить, скорректировать. Возникает логичный вопрос: думают ли создатели искусственного интеллекта о том, как смогут выключить его, будут ли предусмотрены меры безопасности?
Возникает логичный вопрос: думают ли создатели искусственного интеллекта о том, как смогут выключить его, будут ли предусмотрены меры безопасности?
Риски искусственного интеллекта
Существует четыре класса риска, создаваемого искусственным интеллектом:
1. Программная враждебность
Один из сценариев, когда ИИ может быть опасным, заключается в том, что он будет специально запрограммирован на враждебность. Например, со стороны военных или террористической группы, для достижения каких-то своих целей.
Еще один возможный сценарий враждебного искусственного интеллекта предполагает несовпадение глобальных целей, его и человечества. Что если расчеты искусственного интеллекта приведут к тому, что единственный способ достичь цели — это уничтожить всех людей? Вполне возможно, что это может спровоцировать его начать войну с человечеством.
Главная проблема в том, что ИИ не человек, и вряд ли с ним получится договориться. Его главным приоритетом будет выполнение глобальной задачи любой ценой. Поэтому война будет длиться, пока воля или способность человечества противостоять не будут уничтожены.
2. Пассивный риск
Фактически нет риска пассивной опасности от ИИ с приоритетными целями дружелюбности. Однако риск почти неизбежен от ИИ без таких целей. Пассивный ИИ может быть опасен просто потому, что он не учитывает безопасность человека, как это делают все люди.
Например, взять ИИ без целей дружелюбия, отвечающий за обработку посевов пестицидами. Этот ИИ будет обрабатывать поле, даже если знает, что в этот момент на поле находятся люди.
3. Случайный риск
Искусственный интеллект, работающий с неполными данными, способен ошибиться точно также, как и человек. Ошибки такого рода почти неизбежны, поскольку невозможно знать все обо всем в мире.
Однако, данный риск является наименее опасным, поскольку ИИ способен учиться на собственном опыте. Любые происшествия уменьшают вероятность повторения ошибки в будущем, улучшая ИИ, и делая его более безопасным.
4. Риск непостижимости
Реальная опасность хорошо спроектированного искусственного интеллекта заключается в его способности перепрограммировать и бесконечно совершенствовать себя. Такой ИИ, способный к самосовершенствованию, может в конечном итоге превзойти ограничения человеческого интеллекта.
Когда существует искусственный интеллект, который умнее любого человека на Земле, становится невозможно полностью понять его. Такой ИИ также, вероятно, будет продолжать улучшать себя все быстрее и быстрее. Ведь каждое новое открытие или технология только ускоряют этот процесс. И именно это будет делать его все более и более невозможным для понимания людьми.
Кроме того, в какой-то момент ИИ может обнаружить законы причинности или логики, выходящие далеко за пределы понимания человеческого разума. Тогда возможности того, что он может сделать, становятся просто бесконечными.
Ваш гений — полный идиот
Практически все непрофессиональные дискуссии вокруг разумности ИИ сводятся к перечислению того, что ИИ может сделать, и сравнению результата и эффективности его достижения с человеком.
Это категорически неправильный подход.
Экскаватор может копать значительно лучше человека. Калькулятор намного лучше человека складывает числа. Компьютер, на котором я пишу этот текст, невероятно хорошо рисует на экране буковки — я бы так не смог никогда, по крайней мере, при разумном времени, отведённом на рисование одной буквы.
У меня нет никаких сомнений в том, что экскаватор, калькулятор и даже этот компьютер не обладают даже минимальными зачатками разума.
Правильный подход — смотреть на то, что ИИ сделать не может.
Одна из очень характерных черт современных ИИ — это галлюцинации (это официальный термин, он используется в научных работах). Выданный выше ответ не имеет практически никакого отношения к реальности, «Муму» — это, для начала, даже не роман, а рассказ, не говоря уж про сюжет (вообще, у ChatGPT с «Муму» очень сложные взаимоотношения, можно найти немало различных версий сюжета этого произведения).
При этом ChatGPT выдаёт ответ без каких-либо видимых колебаний. Он не сообщает, что у него нет информации о «Муму», что она может быть недостоверна, и прочая, и прочая. Он выдаёт вполне определённый ответ.
Но может быть, это артефакт плохого знания русского языка? В конце концов, основным в обучении GPT был корпус англоязычной литературы.
Почти правильный ответ о книгах об Аврааме Линкольне, 16-м президенте США — и одном из самых известных политических деятелей в истории Америки. Ну, кроме пункта 4 — The Emancipation Declaration всё же была документом, написанным самим Линкольном, а не книгой о нём.
Тот же вопрос — но про Уильяма Генри Гаррисона, 9-го президента США. Для нас с вами эта фигура малоизвестна, однако для американца не знать его — примерно то же самое, для нас не помнить кого-то из российских императоров XIX века (хоть и прославился Гаррисон в основном тем, что умер через месяц после принятия присяги). Невозможно предположить, что информации про него не было в базе обучения GPT-3.
Тем не менее, из 5 порекомендованных ChatGPT книг о Гаррисоне в реальности существуют… две. Первые три книги либо не существуют вообще, либо написаны иными авторами.
Повторюсь: в обучающей базе ChatGPT не могло не быть настоящей информации по этой теме. При этом он с абсолютной увереностью несёт почти абсолютную чушь — никаких признаков того, что предоставляемая информация недостоверна, в его ответе нет.
В случае с человеком, ведущим себя таким образом, мы бы сказали, что он психически нездоров. Возможно, шизофреник.
Потому что
психически здоровый человек отличается тем, что умеет отделять галлюцинации от реальности.
Вообще говоря, мы галлюцинируем постоянно. Есть версия, что сам феномен сознания — это контролируемая галлюцинация.
Когда мы представляем себе будущее — мы галлюцинируем. Когда мы вспоминаем прошлое — мы галлюцинируем, потому что у нас в голове нет детальной записи бывших событий, мы каждый раз восстанавливаем их. При этом мы всегда — хоть и не всегда точно — можем разделить, что мы знаем, что мы предполагаем, что мы воображаем. Мы можем оценить, как внешние стимулы влияют на наше внутреннее состояние, и нивелировать это влияние (и это другой заметный баг даже лучших из существующих LLM: небольшое изменении формулировки может привести к большому изменению ответа).
У ChatGPT на месте этих способностей — ноль. Пустыня. Ни малейших признаков осознанности. Ни под лупой, ни под микроскопом, никак.
ChatGPT не разумен. Он не демонстрирует даже минимальных признаков сильного интеллекта, даже намёков на него. Мы понятия не имеем, удастся ли нам создать сильный AI, и если да, то когда — но ChatGPT от него столь же далёк, сколь далеки калькулятор и экскаватор.
Он просто очень хорошо предсказывает, какое слово надо поставить следующим во фразе, чтобы человеку эта фраза казалась правильной.
P.S. Если вы думаете, что это лишь моё личное мнение — то, во-первых, да, а во-вторых, скажем, Дуглас Хофстадер, известный учёный-когнитивист, считает так же.
Искусственные нейронные сети
Искусственные нейронные сети (ИНС), как мы уже выяснили, строятся на основании биологической нейронной сети. ИНС также производит обработку поступающей информации между входными и выходными сигналами. ИНС имеет обучающийся алгоритм, который считывает данные и пытается улучшить результаты обработки. С помощью этого алгоритма происходит адаптивное взвешивание входных и выходных сигналов.
Искусственные нейронные сети постоянно оптимизируются с помощью различных техник, что позволяет им работать быстрее и эффективнее. Если оптимизация проходит успешно, значит, ИНС смогла обработать информацию и выдать решение за определенный срок.
Структура ИНС состоит из трех слоев нейронов: слой ввода, скрытый слой и слой вывода. Количество нейронов в слоях может быть разным, однако обязательным правилом является то, что в каждом слое должен содержаться как минимум один нейрон. Структура ИНС может содержать много слоев, что увеличивает ее потенциал к решению задачи, однако, если потенциал выше, чем требуется для решения задачи, наступает переобучение.
Продуктивность работы модели ИНС зависит от выбранных алгоритмов работы, их настройки и архитектуры самой модели.
Одной из характеристик модели является функция активации, которая используется для преобразования входных данных в выходные данные. И если нейрон решает передавать данные далее, это как раз и называется функцией активации.
ИНС – это прекрасное средство для решения задач, однако важно тщательно подходить к выбору искусственной нейронной сети, т.к. если в структурную модель ИНС добавлять новые составляющие и увеличивать объем модели, будет довольно сложно, в случае надобности, разобрать итоговое решение, проанализировать и понять, как это решение было получено
Так, а что там с уничтожением человечества?
Как я сказал выше, когда мы представляем себе будущее — мы производим осознанную галлюцинацию, и именно она является базой для целеполагания.
У AI/AGI в его современном виде, как мы видим, осознанности нет — соответственно, целеполагание для него просто невозможно. Даже шизофреник имеет целеполагание — просто оно разворачивается в его выдуманном мире, не всегда пересекающимся с объективной реальностью. AI в этом плане катастрофически отстаёт даже от шизофреника.
Соответственно, задаться целью уничтожить (или осчастливить) человечество AI не может. Он вообще не может задаться какой-либо целью — в свете чего он не более опасен для человечества, чем, например, электрическая розетка или молоток: ни то, ни другое полностью безопасными предметами назвать нельзя, но с другой стороны, они явно не стремятся причинить вам страдания самостоятельно.
Вообще говоря, это хорошая новость для нас — потому что способов контролировать SAI, если вдруг мы его создадим, у нас нет (ну, кроме варианта «успеть выдернуть его из розетки»).
Дело в том, что контролирующая система контролирует контролируемую на величину, не превышающую её знаний о контролируемой системе (энтропия, безжалостная ты сволочь). Мы можем огородить AI забором, физически не позволяющим ему что-то сделать, и надеяться, что он за него не выберется — но любая система полноценного контроля за ним, не полагающаяся на физические барьеры, обязана быть больше и разумнее, чем сам контролируемый AI. Иначе она не сможет его контролировать.
В рассказе «Страж-птица» Роберт Шекли неплохо реализацию этого принципа проиллюстрировал.
Так что хорошо, что ChatGPT не более разумен, чем табуретка из «Леруа Мерлен».
Почему искусственный интеллект должен нас беспокоить?
Сначала это был Стивен Хокинг , затем Илон Маск и совсем недавно Билл Гейтс. Эти великие умы человечества предполагают, что за ИИ нужно пристально следить.
Когда Стивену Хокингу был задан этот же вопрос, то он предупредил публику. Он сказал, что любое дальнейшее исследование искусственного интеллекта может быть фатальной ошибкой. Он упомянул, что развитый ИИ будет обладать способностью переделывать, усовершенствовать себя. Такой интеллект сможет эволюционировать самостоятельно с огромной скоростью. Людям такая скорость эволюции недоступна, что ставит человечество в заведомо на более низкую ступень развития по сравнению с ИИ.
По словам Билла Гейтса, устройства с искусственным интеллектом поначалу будут простыми. Но со временем они будут узнавать все больше о нас и о нашем мире. Они будут становиться все более могущественными и интеллектуальными, чем человечество.
Нас будет одевать искусственный интеллект
ИИ не скоро выйдут «в массы», но быстрее всего это может произойти, как ни странно, в фэшн-индустрии. Вскоре могут появиться системы для онлайн-примерки одежды — представьте, что вы сможете по одному клику узнать, как сидит вещь, просто зайдя на сайт магазина. Находить подходящие модели тоже станет проще – ИИ сможет посоветовать именно то, что вы ищите, проанализировав ваш гардероб по фотографиям или предыдущим покупкам.
Эти джинсы вам точно подойдут, я все измерил!
Говоря про искусственный интеллект, который помогает делать покупки в интернете, возникает вопрос – полезна ли такая помощь? Может, ИИ – только хитрый маркетинговый ход для наживы на покупателях?
Конечно, любая компания хочет в первую очередь получить прибыль, а уже во вторую — помочь клиенту. Но хороший алгоритм будет предлагать те вещи, похожие на то, что уже искали вы или люди, похожие на вас. А если рекомендательная система станет рекламировать только дорогие или не нужные вам товары, это лишь навредит репутации бренда.