Популярно об ИИ

null
Уже с Приветом
Posts: 2983
Joined: 09 Jul 2001 09:01

Популярно об ИИ

Post by null »

Колебался куда бросить в Жизнь или ИТ
Всё таки в "жизнь" так как беседа всё-таки ведётся на популярном уровне.

Тема — искусственный интеллект.

вокруг вопросов
Какие разработки ведутся в этой сфере и чего уже удалось достичь?
Как обучить искусственный разум морали?
Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
И не станет ли это концом человеческой цивилизации?

В гостях у Владимира Познера заведующая кафедрой инженерной кибернетики НИТУ МИСиС, член общественного экспертного совета Аналитического центра при Правительстве РФ Ольга Ускова.

Приглашаю широкую публику высказываться как по интервью так и по вопросам выше

User avatar
M. Ridcully
Уже с Приветом
Posts: 12003
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully »

ИМХО все эти вопросы "морали" ИИ, равно как и страшилки про "нашествие терминаторов" - бред сивой кобылы, ИМХО, который подогревается некоторыми людьми, работающими в этой области, дабы придать себе побольше значимости.

Насколько я могу судить со своих дилетантских позиций (несколько курсов на Корсере) - использование слова "интеллект" там не более, чем дань традиции, к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.). Только supervised learning. То есть просто статистически чего-то там предсказывают, на основе уже случившихся событий / фактов / и проч. данных.

PS: Видео не смотрел. :D
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

M. Ridcully wrote: 05 Dec 2018 03:52 к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.)
+1. Тем не менее, ведётся некоторый research на тему "настоящего интеллекта". Одна из его тем такова. Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
User avatar
M. Ridcully
Уже с Приветом
Posts: 12003
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully »

kyk wrote: 05 Dec 2018 04:02 Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Быть богом? :-)
null
Уже с Приветом
Posts: 2983
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null »

M. Ridcully wrote: 05 Dec 2018 03:52 PS: Видео не смотрел. :D
очевидно, даже не первые несколько минут :D
User avatar
M. Ridcully
Уже с Приветом
Posts: 12003
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully »

null wrote: 05 Dec 2018 04:05
M. Ridcully wrote: 05 Dec 2018 03:52 PS: Видео не смотрел. :D
очевидно, даже не первые несколько минут :D
Угу, чисто случайно совсем недавно дослушал книжку, где эта тема кмк хорошо раскрыта.
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

null wrote: 05 Dec 2018 03:40 Какие разработки ведутся в этой сфере и чего уже удалось достичь?
В основном: (1) Обучение с учителем (классификация/диагностика, регрессия), (2) обучение без учителя (anomaly detection, кластеризация), (3) обучение с подкреплением (игры, хождения по лабиринтам)

В отдельных примерах (1) -- там, где речь идёт о распознавании образов, удалось сделать немного лучше человека.
В этих же задачах, как оказалось, можно легко обмануть ИИ путём шевеления нескольких пикселей (гуглим adversarial learning).

В (1) и (2) людям нужно значительно меньше данных (на порядки) для обучения того же качества, что и ИИ.

Кроме того, есть любопытные асимметрии -- например, люди куда реже делают false positive errors, чем ИИ (зато ИИ делает реже false negative errors).
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
null wrote: 05 Dec 2018 03:40 Как обучить искусственный разум морали?
Научиться морали самому -- в частности, научиться решать задачи про вагонетки.
null wrote: 05 Dec 2018 03:40 Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
Можно.
null wrote: 05 Dec 2018 03:40 И не станет ли это концом человеческой цивилизации?
Нет -- цивилизация загнётся значительно раньше.


P.S. Видео не смотрел.

P.P.S. Есть простое правило буравчика, позволяющее определить, где во всей этой деятельности AI (artificial intelligence), а где ML (machine learning). Правило простое: если штука работает, то это ML, а если нет -- то это AI.
蝸牛そろそろ登れ富士の山
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

jsjs wrote: 05 Dec 2018 04:53 Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
люди - это Петров или Андропов?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

kyk wrote: 05 Dec 2018 05:42
jsjs wrote: 05 Dec 2018 04:53 Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
люди - это Петров или Андропов?
Петров.

Кстати, если бы в СССР не был запрещён фильм Dr Strangelove, такая защитная логика ("всего пять ракет -- чё-то маловато") у Петрова бы не сработала.
蝸牛そろそろ登れ富士の山
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

У Андропова с логикой всё было в порядке. Здоровье подкачало
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

kyk wrote: 05 Dec 2018 06:13 У Андропова с логикой всё было в порядке. Здоровье подкачало
Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.
蝸牛そろそろ登れ富士の山
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

jsjs wrote: 05 Dec 2018 06:15Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.
Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

kyk wrote: 05 Dec 2018 06:18
jsjs wrote: 05 Dec 2018 06:15Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.
Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха
Да неважно, каким словом это называть. Главное -- правильное решение принято логикой / чуйкой или нет. В том же AI/ML вопрос "почему принято то или иное решение" -- отдельная проблема (so-called "Explainable AI").
蝸牛そろそろ登れ富士の山
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

M. Ridcully wrote: 05 Dec 2018 04:07дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
zVlad
Уже с Приветом
Posts: 16196
Joined: 30 Apr 2003 16:43

Re: Популярно об ИИ

Post by zVlad »

kyk wrote: 05 Dec 2018 04:02 .... Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?
Возможности компьютеров "по мощности и объему" далеко не всеми работающими с ними осознается и используется правильно. О мощности и объеме человеческого мозга, а на самом деле мозг "всего лишь" орган предположительно материально представляющий человеческий интеллект, мы вообще ничего не знаем.
На мой взгляд, человека познакомившегося с компьютера году этак в 1974, и до сих пор активно с ними работающего, нужно заниматься отдельно с компьютерами и отдельно с интеллектом человека и его органом мышления (предположительно) мозгом. Попытки смешивать эти две области деятельности ничего кроме бестолковщины и торжества дилетантизма не дают.
Богу богово, человеку человеково.
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

kyk wrote: 05 Dec 2018 10:26
M. Ridcully wrote: 05 Dec 2018 04:07дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Я бы порекомендовал https://www.amazon.com/Hello-World-Bein ... 039363499X (есть в сельпо).
蝸牛そろそろ登れ富士の山
city_girl
Уже с Приветом
Posts: 37504
Joined: 09 Jun 2010 15:58
Location: LT-RU-NY

Re: Популярно об ИИ

Post by city_girl »

jsjs wrote: 05 Dec 2018 04:53
null wrote: 05 Dec 2018 03:40 Какие разработки ведутся в этой сфере и чего уже удалось достичь?
В основном: (1) Обучение с учителем (классификация/диагностика, регрессия), (2) обучение без учителя (anomaly detection, кластеризация), (3) обучение с подкреплением (игры, хождения по лабиринтам)

В отдельных примерах (1) -- там, где речь идёт о распознавании образов, удалось сделать немного лучше человека.
В этих же задачах, как оказалось, можно легко обмануть ИИ путём шевеления нескольких пикселей (гуглим adversarial learning).

В (1) и (2) людям нужно значительно меньше данных (на порядки) для обучения того же качества, что и ИИ.

Кроме того, есть любопытные асимметрии -- например, люди куда реже делают false positive errors, чем ИИ (зато ИИ делает реже false negative errors).
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov
null wrote: 05 Dec 2018 03:40 Как обучить искусственный разум морали?
Научиться морали самому -- в частности, научиться решать задачи про вагонетки.
null wrote: 05 Dec 2018 03:40 Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
Можно.
null wrote: 05 Dec 2018 03:40 И не станет ли это концом человеческой цивилизации?
Нет -- цивилизация загнётся значительно раньше.


P.S. Видео не смотрел.

P.P.S. Есть простое правило буравчика, позволяющее определить, где во всей этой деятельности AI (artificial intelligence), а где ML (machine learning). Правило простое: если штука работает, то это ML, а если нет -- то это AI.
:good:
User avatar
M. Ridcully
Уже с Приветом
Posts: 12003
Joined: 08 Sep 2006 20:07
Location: Силиконка

Re: Популярно об ИИ

Post by M. Ridcully »

kyk wrote: 05 Dec 2018 10:26
M. Ridcully wrote: 05 Dec 2018 04:07дослушал книжку, где эта тема кмк хорошо раскрыта.
какую?
Life After Google: The Fall of Big Data and the Rise of the Blockchain Economy, by George Gilder
null
Уже с Приветом
Posts: 2983
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null »

jsjs wrote: 05 Dec 2018 04:53 ...
P.S. Видео не смотрел.
Спасибо за развёрнутые комментарии, там ищё вопрос к чему готовить детей возникал где-то после 36-ой минуты
было любопытно вашу т.з. тоже услышать
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

null wrote: 05 Dec 2018 17:52
jsjs wrote: 05 Dec 2018 04:53 ...
P.S. Видео не смотрел.
Спасибо за развёрнутые комментарии, там ищё вопрос к чему готовить детей возникал где-то после 36-ой минуты
было любопытно вашу т.з. тоже услышать
Пожалуйста.

Дети, по моим наблюдениям, готошятся ешё лучше нас, так что ыя быо нх не волновался. А в целом, помимо банальных советов типа "чистить зубы" и "держать язык за чистыми зубами", я быобратил внимание на тохку зрения Systems vs Goals, которую пропагандирует Scott Adams -- книжка


Грубо говоря -- разумное грубое позициионирование перебивает конкретное хрупкое целеполагание.
蝸牛そろそろ登れ富士の山
null
Уже с Приветом
Posts: 2983
Joined: 09 Jul 2001 09:01

Re: Популярно об ИИ

Post by null »

jsjs wrote: 05 Dec 2018 18:20 я быобратил внимание на тохку зрения Systems vs Goals, которую пропагандирует Scott Adams -- книжка
Так этож моя любимая книжка из прочитаных за последнюю пару лет
User avatar
kyk
Уже с Приветом
Posts: 31438
Joined: 21 Nov 2004 05:12
Location: камбуз на кампусе

Re: Популярно об ИИ

Post by kyk »

jsjs wrote: 05 Dec 2018 18:20 Scott Adams
так книжка для детей? Если уже выросли, читать?
Лучше переесть, чем недоспать! © Обратное тоже верно :umnik1:
User avatar
jsjs
Уже с Приветом
Posts: 19447
Joined: 09 Aug 2009 03:46
Location: Москва->США

Re: Популярно об ИИ

Post by jsjs »

kyk wrote: 05 Dec 2018 19:46
jsjs wrote: 05 Dec 2018 18:20 Scott Adams
так книжка для детей? Если уже выросли, читать?
Нет, не для детей. Читал в выросшем состоянии. Просто взрослый может соответственно ориентировать своего ребёнка.
Кстати, отмечу, что книжка есть в сельпо.
蝸牛そろそろ登れ富士の山
User avatar
vlad12345
Уже с Приветом
Posts: 605
Joined: 14 Feb 2002 10:01
Location: Russia

Re: Популярно об ИИ

Post by vlad12345 »

Вспомнился старый советский н.-п. фильм
www.youtube.com/watch?v=n-kMeXIngZE
phpBB [video]
city_girl
Уже с Приветом
Posts: 37504
Joined: 09 Jun 2010 15:58
Location: LT-RU-NY

Re: Популярно об ИИ

Post by city_girl »

vlad12345 wrote: 05 Dec 2018 21:47 Вспомнился старый советский н.-п. фильм
www.youtube.com/watch?v=n-kMeXIngZE
phpBB [video]
классный фильм, такой советский советский в хорошем смысле слова

Return to “Наука и Жизнь”