Популярно об ИИ

null
Уже с Приветом
Posts: 1284
Joined: 09 Jul 2001 09:01

Популярно об ИИ

Post by null » 05 Dec 2018 03:40

Колебался куда бросить в Жизнь или ИТ
Всё таки в "жизнь" так как беседа всё-таки ведётся на популярном уровне.

Тема — искусственный интеллект.

вокруг вопросов
Какие разработки ведутся в этой сфере и чего уже удалось достичь?
Как обучить искусственный разум морали?
Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
И не станет ли это концом человеческой цивилизации?

В гостях у Владимира Познера заведующая кафедрой инженерной кибернетики НИТУ МИСиС, член общественного экспертного совета Аналитического центра при Правительстве РФ Ольга Ускова.

Приглашаю широкую публику высказываться как по интервью так и по вопросам выше


User avatar
M. Ridcully
Уже с Приветом
Posts: 8626
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully » 05 Dec 2018 03:52

ИМХО все эти вопросы "морали" ИИ, равно как и страшилки про "нашествие терминаторов" - бред сивой кобылы, ИМХО, который подогревается некоторыми людьми, работающими в этой области, дабы придать себе побольше значимости.

Насколько я могу судить со своих дилетантских позиций (несколько курсов на Корсере) - использование слова "интеллект" там не более, чем дань традиции, к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.). Только supervised learning. То есть просто статистически чего-то там предсказывают, на основе уже случившихся событий / фактов / и проч. данных.

PS: Видео не смотрел. :D
Don’t Tread on Me

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 04:02

M. Ridcully wrote:
05 Dec 2018 03:52
к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.)
+1. Тем не менее, ведётся некоторый research на тему "настоящего интеллекта". Одна из его тем такова. Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

User avatar
M. Ridcully
Уже с Приветом
Posts: 8626
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully » 05 Dec 2018 04:05

kyk wrote:
05 Dec 2018 04:02
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Быть богом? :-)
Don’t Tread on Me

null
Уже с Приветом
Posts: 1284
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null » 05 Dec 2018 04:05

M. Ridcully wrote:
05 Dec 2018 03:52
PS: Видео не смотрел. :D
очевидно, даже не первые несколько минут :D

User avatar
M. Ridcully
Уже с Приветом
Posts: 8626
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully » 05 Dec 2018 04:07

null wrote:
05 Dec 2018 04:05
M. Ridcully wrote:
05 Dec 2018 03:52
PS: Видео не смотрел. :D
очевидно, даже не первые несколько минут :D
Угу, чисто случайно совсем недавно дослушал книжку, где эта тема кмк хорошо раскрыта.
Don’t Tread on Me

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 04:53

null wrote:
05 Dec 2018 03:40
Какие разработки ведутся в этой сфере и чего уже удалось достичь?
В основном: (1) Обучение с учителем (классификация/диагностика, регрессия), (2) обучение без учителя (anomaly detection, кластеризация), (3) обучение с подкреплением (игры, хождения по лабиринтам)

В отдельных примерах (1) -- там, где речь идёт о распознавании образов, удалось сделать немного лучше человека.
В этих же задачах, как оказалось, можно легко обмануть ИИ путём шевеления нескольких пикселей (гуглим adversarial learning).

В (1) и (2) людям нужно значительно меньше данных (на порядки) для обучения того же качества, что и ИИ.

Кроме того, есть любопытные асимметрии -- например, люди куда реже делают false positive errors, чем ИИ (зато ИИ делает реже false negative errors).
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
null wrote:
05 Dec 2018 03:40
Как обучить искусственный разум морали?
Научиться морали самому -- в частности, научиться решать задачи про вагонетки.
null wrote:
05 Dec 2018 03:40
Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
Можно.
null wrote:
05 Dec 2018 03:40
И не станет ли это концом человеческой цивилизации?
Нет -- цивилизация загнётся значительно раньше.


P.S. Видео не смотрел.

P.P.S. Есть простое правило буравчика, позволяющее определить, где во всей этой деятельности AI (artificial intelligence), а где ML (machine learning). Правило простое: если штука работает, то это ML, а если нет -- то это AI.

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 05:42

jsjs wrote:
05 Dec 2018 04:53
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
люди - это Петров или Андропов?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 06:11

kyk wrote:
05 Dec 2018 05:42
jsjs wrote:
05 Dec 2018 04:53
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
люди - это Петров или Андропов?
Петров.

Кстати, если бы в СССР не был запрещён фильм Dr Strangelove, такая защитная логика ("всего пять ракет -- чё-то маловато") у Петрова бы не сработала.

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 06:13

У Андропова с логикой всё было в порядке. Здоровье подкачало
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 06:15

kyk wrote:
05 Dec 2018 06:13
У Андропова с логикой всё было в порядке. Здоровье подкачало
Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 06:18

jsjs wrote:
05 Dec 2018 06:15
Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.
Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 06:36

kyk wrote:
05 Dec 2018 06:18
jsjs wrote:
05 Dec 2018 06:15
Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.
Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха
Да неважно, каким словом это называть. Главное -- правильное решение принято логикой / чуйкой или нет. В том же AI/ML вопрос "почему принято то или иное решение" -- отдельная проблема (so-called "Explainable AI").

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 10:26

M. Ridcully wrote:
05 Dec 2018 04:07
дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

zVlad
Уже с Приветом
Posts: 13495
Joined: 30 Apr 2003 16:43

Re: Популярно об ИИ

Post by zVlad » 05 Dec 2018 12:32

kyk wrote:
05 Dec 2018 04:02
.... Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?
Возможности компьютеров "по мощности и объему" далеко не всеми работающими с ними осознается и используется правильно. О мощности и объеме человеческого мозга, а на самом деле мозг "всего лишь" орган предположительно материально представляющий человеческий интеллект, мы вообще ничего не знаем.
На мой взгляд, человека познакомившегося с компьютера году этак в 1974, и до сих пор активно с ними работающего, нужно заниматься отдельно с компьютерами и отдельно с интеллектом человека и его органом мышления (предположительно) мозгом. Попытки смешивать эти две области деятельности ничего кроме бестолковщины и торжества дилетантизма не дают.
Богу богово, человеку человеково.

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 16:53

kyk wrote:
05 Dec 2018 10:26
M. Ridcully wrote:
05 Dec 2018 04:07
дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Я бы порекомендовал https://www.amazon.com/Hello-World-Bein ... 039363499X (есть в сельпо).

city_girl
Уже с Приветом
Posts: 26909
Joined: 09 Jun 2010 15:58
Location: LT-RU-NY

Re: Популярно об ИИ

Post by city_girl » 05 Dec 2018 17:40

jsjs wrote:
05 Dec 2018 04:53
null wrote:
05 Dec 2018 03:40
Какие разработки ведутся в этой сфере и чего уже удалось достичь?
В основном: (1) Обучение с учителем (классификация/диагностика, регрессия), (2) обучение без учителя (anomaly detection, кластеризация), (3) обучение с подкреплением (игры, хождения по лабиринтам)

В отдельных примерах (1) -- там, где речь идёт о распознавании образов, удалось сделать немного лучше человека.
В этих же задачах, как оказалось, можно легко обмануть ИИ путём шевеления нескольких пикселей (гуглим adversarial learning).

В (1) и (2) людям нужно значительно меньше данных (на порядки) для обучения того же качества, что и ИИ.

Кроме того, есть любопытные асимметрии -- например, люди куда реже делают false positive errors, чем ИИ (зато ИИ делает реже false negative errors).
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
null wrote:
05 Dec 2018 03:40
Как обучить искусственный разум морали?
Научиться морали самому -- в частности, научиться решать задачи про вагонетки.
null wrote:
05 Dec 2018 03:40
Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
Можно.
null wrote:
05 Dec 2018 03:40
И не станет ли это концом человеческой цивилизации?
Нет -- цивилизация загнётся значительно раньше.


P.S. Видео не смотрел.

P.P.S. Есть простое правило буравчика, позволяющее определить, где во всей этой деятельности AI (artificial intelligence), а где ML (machine learning). Правило простое: если штука работает, то это ML, а если нет -- то это AI.
:good:

User avatar
M. Ridcully
Уже с Приветом
Posts: 8626
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully » 05 Dec 2018 17:46

kyk wrote:
05 Dec 2018 10:26
M. Ridcully wrote:
05 Dec 2018 04:07
дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Life After Google: The Fall of Big Data and the Rise of the Blockchain Economy, by George Gilder
Don’t Tread on Me

null
Уже с Приветом
Posts: 1284
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null » 05 Dec 2018 17:52

jsjs wrote:
05 Dec 2018 04:53
...
P.S. Видео не смотрел.
Спасибо за развёрнутые комментарии, там ищё вопрос к чему готовить детей возникал где-то после 36-ой минуты
было любопытно вашу т.з. тоже услышать

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 18:20

null wrote:
05 Dec 2018 17:52
jsjs wrote:
05 Dec 2018 04:53
...
P.S. Видео не смотрел.
Спасибо за развёрнутые комментарии, там ищё вопрос к чему готовить детей возникал где-то после 36-ой минуты
было любопытно вашу т.з. тоже услышать
Пожалуйста.

Дети, по моим наблюдениям, готошятся ешё лучше нас, так что ыя быо нх не волновался. А в целом, помимо банальных советов типа "чистить зубы" и "держать язык за чистыми зубами", я быобратил внимание на тохку зрения Systems vs Goals, которую пропагандирует Scott Adams -- книжка


Грубо говоря -- разумное грубое позициионирование перебивает конкретное хрупкое целеполагание.

null
Уже с Приветом
Posts: 1284
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null » 05 Dec 2018 19:07

jsjs wrote:
05 Dec 2018 18:20
я быобратил внимание на тохку зрения Systems vs Goals, которую пропагандирует Scott Adams -- книжка
Так этож моя любимая книжка из прочитаных за последнюю пару лет

User avatar
kyk
Уже с Приветом
Posts: 20260
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk » 05 Dec 2018 19:46

jsjs wrote:
05 Dec 2018 18:20
Scott Adams
так книжка для детей? Если уже выросли, читать?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:

User avatar
jsjs
Уже с Приветом
Posts: 15543
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs » 05 Dec 2018 20:26

kyk wrote:
05 Dec 2018 19:46
jsjs wrote:
05 Dec 2018 18:20
Scott Adams
так книжка для детей? Если уже выросли, читать?
Нет, не для детей. Читал в выросшем состоянии. Просто взрослый может соответственно ориентировать своего ребёнка.
Кстати, отмечу, что книжка есть в сельпо.

User avatar
vlad12345
Уже с Приветом
Posts: 605
Joined: 14 Feb 2002 10:01
Location: Russia

Re: Популярно об ИИ

Post by vlad12345 » 05 Dec 2018 21:47

Вспомнился старый советский н.-п. фильм
www.youtube.com/watch?v=n-kMeXIngZE
phpBB [video]

city_girl
Уже с Приветом
Posts: 26909
Joined: 09 Jun 2010 15:58
Location: LT-RU-NY

Re: Популярно об ИИ

Post by city_girl » 05 Dec 2018 21:59

vlad12345 wrote:
05 Dec 2018 21:47
Вспомнился старый советский н.-п. фильм
www.youtube.com/watch?v=n-kMeXIngZE
phpBB [video]
классный фильм, такой советский советский в хорошем смысле слова

Return to “Наука и Жизнь”