Популярно об ИИ

[M. Ridcully]

Как раз об этом говорят дилетанты, которые просто не понимают о чём речь.
Вопрос морали встаёт тогда, когда из контура принятия решений исключается человек. Причём, речь не идёт "морали машины".

Человек уже довольно давно исключён из контура принятия решений во многих областях - когда вам страховку квотят, рейт ипотечный устанавливают и т.д. Дальше - больше: customer service, медицина (для 99%) и т.д. И я совсем не оспариваю важность вопроса морали, я именно о "морали машин" (что есть чушь). Ну типа "принципов роботов", риска восстания терминаторов и т.д.

Машина будет принимать решения в соответствии с той программой, которая заложена в неё человеком. Причём, решения могут быть даже трудно понимаемы чаловеком. Просто в силу того, что машина быстрее.

Если мы про "глубокие сети", то практически наверняка решения абсолютно не понимаемы человеком.
Ну не может человек разглядеть глубокий смысл в офуительных размеров матрице весов!

Насчёт интеллекта превосходящего человеческий всё ясно. Машина совершенствуется и в определённых обрастях, например в шахматах человек уже потеснён. У машины огромная абсолютная память. Машина способна выполнять с высокой скоростью сложные вычисления. Проблема пока состоит только в формализации алгоритмов логического мышления, но она рано или поздно будет решена. Тем не менее, машина останется машиной и вся ответственность за принятие решения всё равно лежит на человеке.

Угу, угу.
У меня в детстве калькулятер умел умножать большие числа намного быстрее меня! Должно быть, превосходил меня интеллектом.

Кстати, уже сформированы принципы чего нельзя делать, чтобы искусственный интелект не стал опасным для человека, но, как известно, все правила нарушаются. Поэтому, рассчитывать на них не стоит. Так, что, не сомневайтесь. Рано или поздно найдётся машина, которая изречёт: "Человек, ты ничтожество."

Не, не найдётся.
Не хватает самой "малости" - сознания.

[jsjs]

Разумеется. Тем более, что в многокритериальном случае (т.е. почти всегда) оптимум вообще не определён (или, что то же самое, определяй как хочешь).
...

Кстати, первейший набор слов в любой советской диссертации - "многокртериальная оптимизация"

Первейший набор -- "В последнее время большое внимание уделяется [...]"
С этого начиналась более или менее любая диссертация

[jsjs]

Человек уже довольно давно исключён из контура принятия решений во многих областях - когда вам страховку квотят, рейт ипотечный устанавливают и т.д.
...
Если мы про "глубокие сети", то практически наверняка решения абсолютно не понимаемы человеком.
Ну не может человек разглядеть глубокий смысл в офуительных размеров матрице весов!

Именно поэтому (помимо прочего) сейчас пошёл резкий откат (по крайней мере, в серьёзных конторах типа банков и вояк) в
https://en.wikipedia.org/wiki/Explainab ... telligence

[Privet]

Человек уже довольно давно исключён из контура принятия решений во многих областях - когда вам страховку квотят, рейт ипотечный устанавливают и т.д.
...
Если мы про "глубокие сети", то практически наверняка решения абсолютно не понимаемы человеком.
Ну не может человек разглядеть глубокий смысл в офуительных размеров матрице весов!

Именно поэтому (помимо прочего) сейчас пошёл резкий откат (по крайней мере, в серьёзных конторах типа банков и вояк) в
https://en.wikipedia.org/wiki/Explainab ... telligence

Давно не интересовался новостями по нейронным сетям. Вещь интересная, но в своём оригинальном виде она решает задачи типа вопрос-ответ. Сколько бы слоёв там не было, суть от этого не меняется. Она аппроксимирует только какую-то сложную поверхносить или совокупность поверхностей. Для целей автоматического управления это замечательно, но только как часть системы и в общем виде она всегда работает совместно с системами по Тюрингу".
Я прав или сильно отстал? В двух словах, если можно.

[HappyCat]

Наткнулась на относительно свежую статью про проблемy почему машины пока обучаются медленно.
https://arxiv.org/pdf/1802.10217.pdf

Интересно, ожидаются здесь какие успехи?

[jsjs]

Человек уже довольно давно исключён из контура принятия решений во многих областях - когда вам страховку квотят, рейт ипотечный устанавливают и т.д.
...
Если мы про "глубокие сети", то практически наверняка решения абсолютно не понимаемы человеком.
Ну не может человек разглядеть глубокий смысл в офуительных размеров матрице весов!

Именно поэтому (помимо прочего) сейчас пошёл резкий откат (по крайней мере, в серьёзных конторах типа банков и вояк) в
https://en.wikipedia.org/wiki/Explainab ... telligence

Давно не интересовался новостями по нейронным сетям. Вещь интересная, но в своём оригинальном виде она решает задачи типа вопрос-ответ. Сколько бы слоёв там не было, суть от этого не меняется. Для целей автоматического управления это замечательно, но только как часть системы и в общем виде она всегда работает совместно с системами по Тюрингу".
Я прав или сильно отстал? В двух словах, если можно.

Она и в настоящем виде решает 'вопрос - ответ'. В зависимости от вида ответов (конечное множество, вещественное число, и т.д.) это будет или классификация, или регрессия, или кластеризация и так далее. Соль слоёв в резком увеличении пространства решений (которое будет ширше, чем если просто среди каких-нибудь полиномов его искать). Естественно, расплата за такое увеличение -- overfitting, потеря робастности, отсутствие explainability, и прочие прелести.

Совсем грубо и цинично -- есть одноцветные или разноцветные (цвет -- это класс) точки в многомерном пространстве признаков (features), и хочется через них (регрессия) или между ними (классификация, кластеризация) провести не очень сложные (а иначе будет overfitting и все дела) поверхности. Всё реально зависит от (1) в каком пространстве всё это живёт и какая там введена метрика (чтобы близкие вещи по метрике были "похожи") и (2) какой класс поверхностей (полиномы, нейронки, гиперплоскости, whatever) используется для приближения или разделения.

[Privet]

Конечные автоматы сейчас вообще не популярны в ИИ?

[Gabi]

Почитайте Consiousness explained.

Пыталась, но 500 страниц очень мелким шрифтом не воодушевляли.
Так и застряла на середине где-то.

[jsjs]

Конечные автоматы сейчас вообще не популярны в ИИ?

Они, не сказал бы что популярны, но используются в более определённых задачах (так называемый model-driven approach, где предполагается какое-то знание о структуре модели, в то время как то, что я карикатурно обрисовал выше -- это так называемый data-driven approach, где решаюшее правило строится без промежуточного шага идентификации параметров модели), где общий "скелет" предполагается известным, но неизвестны лишь правила и параметры перехода из одной косточки скелета в другую.

Ну, типа, мы почему-то решили, что человек может быть в 4 состояниях: (1) сон, (2) еда, (3) вот это самое, (4) read/write Привет. Такой вот конечный автомат, который посидит в одном состоянии, потом прыгнет в другое, и так далее, по каким-то случайным законам. Скажем, после (1) он обычно прыгает в (2) (а если молодой и горячий, то сразу в (3)), потом в (4), и так далее. Ну и тогда ИИ пытается, наблюдая за этими прыжками, определить, как распределено время в том или ином состояиии, какова матрица вероятностей прыжков и так далее. Более сложный вариант -- когда мы допускаем, что кроме этих состояиий могут быть какие-то ещё (типа Hidden Markov Chain), и тогда и их пытаемся разузнать тоже.

Грубо говоря, это такое классическое "физическое" ИИ -- закон тяготения или закон Кеплера (т.е. скелет) мы знаем, нам бы только константу тяготения или эксцентрситет орбиты Марса (т.е. параметры) поточнее узнать.

Ну поэтому раннее ИИ и было таким model-driven. А вот все эти нейронки, персептроны и прочее -- это уже смена парадигмы была (на data-driven) -- типа, ребята, а на хрена нам эта модель, нам же просто нужно предсказать, где будет Марс в следующий момент времени. А почему он там будет -- это не то чтобы неважно, но это более сложная задача, на которую не надо тратить ресурсы.

[kyk]

По этому поводу можно почитать книжку (хотя бы ради её первого автора )
https://www.ozon.ru/context/detail/id/21241330/

Березовский сначала занимался теорией оптимизации бабла, потом перешёл к практике. Чем не role mode для других учОных

[jsjs]

По этому поводу можно почитать книжку (хотя бы ради её первого автора )
https://www.ozon.ru/context/detail/id/21241330/

Березовский сначала занимался теорией оптимизации бабла, потом перешёл к практике. Чем не role mode для других учОных

Многие учёные (не карикатурные Паганели) так и делают.

[kyk]

Многие учёные (не карикатурные Паганели) так и делают.

Березововский literally

[Flash-04]

к настоящему "интеллекту" никакого отношения не имеющая. Практически все коммерчески успешные случаи его применения - это задача распознавания (образов, и проч.)

+1. Тем не менее, ведётся некоторый research на тему "настоящего интеллекта". Одна из его тем такова. Допустим вычислительные возможности комппьютера выросли настолько, что по мощности и объёму стали сравнимы с возможностями головного мозга человека и количественно и качественно и могут имулировать все нейронные связи в мозгу.
Что нужно сделать чтобы у этого суперкомпа появилось сознание "consciousness"?
Типа правильно в него заложить начальную программу?

это очень интересный вопрос на самом деле. есть нехорошее подозрение что наш мозг таки пользуется все теми же алгоритмами типа "unsupervised learning". Популярно проблема освещена в "West World"

[Flash-04]

Я думаю, что человек должен выстраивать систему своих действий/поведения и свое позиционирование в зависимости от целей. Лично для меня это очень странно отделить одно от другого.

Разве у вас не было ситуаций когда в процессе цель менялась?

[kyk]

проблема освещена в "West World"

Не гуглил ещё