Популярно об ИИ

[null]

Колебался куда бросить в Жизнь или ИТ
Всё таки в "жизнь" так как беседа всё-таки ведётся на популярном уровне.

Тема — искусственный интеллект.

вокруг вопросов
Какие разработки ведутся в этой сфере и чего уже удалось достичь?
Как обучить искусственный разум морали?
Можно ли создать искусственный интеллект, который будет превосходить возможности человека?
И не станет ли это концом человеческой цивилизации?

В гостях у Владимира Познера заведующая кафедрой инженерной кибернетики НИТУ МИСиС, член общественного экспертного совета Аналитического центра при Правительстве РФ Ольга Ускова.

Приглашаю широкую публику высказываться как по интервью так и по вопросам выше

[M. Ridcully]

ИМХО все эти вопросы "морали" ИИ, равно как и страшилки про "нашествие терминаторов" - бред сивой кобылы, ИМХО, который подогревается некоторыми людьми, работающими в этой области, дабы придать себе побольше значимости.

Насколько я могу судить со своих дилетантских позиций (несколько курсов на Корсере) - использование слова "интеллект" там не более, чем дань традиции, к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.). Только supervised learning. То есть просто статистически чего-то там предсказывают, на основе уже случившихся событий / фактов / и проч. данных.

PS: Видео не смотрел.

[kyk]

к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.)

+1. Тем не менее, ведётся некоторый research на тему "настоящего интеллекта". Одна из его тем такова. Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?

[M. Ridcully]

Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?

Быть богом?

[null]

PS: Видео не смотрел.

очевидно, даже не первые несколько минут

[M. Ridcully]

PS: Видео не смотрел.

очевидно, даже не первые несколько минут

Угу, чисто случайно совсем недавно дослушал книжку, где эта тема кмк хорошо раскрыта.

[jsjs]

Какие разработки ведутся в этой сфере и чего уже удалось достичь?

В основном: (1) Обучение с учителем (классификация/диагностика, регрессия), (2) обучение без учителя (anomaly detection, кластеризация), (3) обучение с подкреплением (игры, хождения по лабиринтам)

В отдельных примерах (1) -- там, где речь идёт о распознавании образов, удалось сделать немного лучше человека.
В этих же задачах, как оказалось, можно легко обмануть ИИ путём шевеления нескольких пикселей (гуглим adversarial learning).

В (1) и (2) людям нужно значительно меньше данных (на порядки) для обучения того же качества, что и ИИ.

Кроме того, есть любопытные асимметрии -- например, люди куда реже делают false positive errors, чем ИИ (зато ИИ делает реже false negative errors).
Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov

Как обучить искусственный разум морали?

Научиться морали самому -- в частности, научиться решать задачи про вагонетки.

Можно ли создать искусственный интеллект, который будет превосходить возможности человека?

Можно.

И не станет ли это концом человеческой цивилизации?

Нет -- цивилизация загнётся значительно раньше.


P.S. Видео не смотрел.

P.P.S. Есть простое правило буравчика, позволяющее определить, где во всей этой деятельности AI (artificial intelligence), а где ML (machine learning). Правило простое: если штука работает, то это ML, а если нет -- то это AI.

[kyk]

Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov

люди - это Петров или Андропов?

[jsjs]

Хорошая иллюстрация такого false positive -- случай https://en.wikipedia.org/wiki/Stanislav_Petrov

люди - это Петров или Андропов?

Петров.

Кстати, если бы в СССР не был запрещён фильм Dr Strangelove, такая защитная логика ("всего пять ракет -- чё-то маловато") у Петрова бы не сработала.

[kyk]

У Андропова с логикой всё было в порядке. Здоровье подкачало

[jsjs]

У Андропова с логикой всё было в порядке. Здоровье подкачало

Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.

[kyk]

Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.

Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха

[jsjs]

Андроповская логика -- откопать Горбачёва. If that's not a false positive then I don't know what is.

Не нравится слово логика, пусть будет чуйка . Андропов понимал - что Рейган - враг. А Горбачёв-то про это забыл и Рейган его (и весь совок) развёл как лоха

Да неважно, каким словом это называть. Главное -- правильное решение принято логикой / чуйкой или нет. В том же AI/ML вопрос "почему принято то или иное решение" -- отдельная проблема (so-called "Explainable AI").

[kyk]

дослушал книжку, где эта тема кмк хорошо раскрыта.

какую?

[zVlad]

.... Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?

Возможности компьютеров "по мощности и объему" далеко не всеми работающими с ними осознается и используется правильно. О мощности и объеме человеческого мозга, а на самом деле мозг "всего лишь" орган предположительно материально представляющий человеческий интеллект, мы вообще ничего не знаем.
На мой взгляд, человека познакомившегося с компьютера году этак в 1974, и до сих пор активно с ними работающего, нужно заниматься отдельно с компьютерами и отдельно с интеллектом человека и его органом мышления (предположительно) мозгом. Попытки смешивать эти две области деятельности ничего кроме бестолковщины и торжества дилетантизма не дают.
Богу богово, человеку человеково.