Machine Learning again

[Flash-04]

machine learning сейчас востребован в области IT analytics и user behavioral analytics. Начали появляться законченые продукты на рынке.

[ystar]

Цель: выучить что-то новое, и затем сменить роль деятельности, из автоматизации/девелопмента уйти в облать машинного обучения.

А какова цель? Повышение зарплаты или просто душа просит?

У меня был вариант такой: делаешь на питоне задачку с Iris, например с алгоритмом ближайших соседей, изучаешь этот алгоритм, потом на какие более сложные алгоритмы переходить.

Начните с книги. Если совсем с нуля, возьмите введение в область. Затем начните программы писать. Продолжительность обучения зависит от той глубины, к которой стремитесь. Если просто начать - нескольких месяцев хватит (скорее пол года). Но чтобы понять тонкости, причём неформально, тогда несколько лет. Проблема в том, что сами алгоритмы в общем то несложно выучить. Но в книгах, скорее всего, учебные задачи будут предложены (что правильно). А вот реалии совсем иные. Возиться с реальными данными - это ещё тот геммор. Плюс надо уметь правильно задачи ставить. Ещё неплохо бы в целом математикой владеть. Плюс освоить язык, Питон или R. Потом сейчас мода на Большие Данные, так что надо будет в этом направлении идти. Скорее всего Хадуп, Спарк и библиотеку по маш. обучению.В общем есть куда двигаться.

Душа просит. Мне это давно интересно было, сейчас решил заняться этим поплотнее.
С математикой вроде с большего ок, в универе особо не забивал. В общем спасибо за совет.

[Alexandr]

То, что выучить ml за 10 дней нельзя - это я прекрасно понимаю, в том числе даже за 25. тут надо хотя бы полгода, как по-мне и то, это надо математическую базу иметь, и в универе ходить на алгебры, матаны и прочую математематику и в этом случае скорость изучения только ускорится.

У меня был вариант такой: делаешь на питоне задачку с Iris, например с алгоритмом ближайших соседей, изучаешь этот алгоритм, потом на какие более сложные алгоритмы переходить.

Я бы не поленился и повторил "всю" математику, без нее как-то все уныло
я тоже многое подзабыл пока варился в технологиях, языках и алгоритмах, сейчас наверстываю математику тоже

опять же, без математики, все уныло

[Flash-04]

Жениться вам надо, барин (с)

[ystar]

То, что выучить ml за 10 дней нельзя - это я прекрасно понимаю, в том числе даже за 25. тут надо хотя бы полгода, как по-мне и то, это надо математическую базу иметь, и в универе ходить на алгебры, матаны и прочую математематику и в этом случае скорость изучения только ускорится.

У меня был вариант такой: делаешь на питоне задачку с Iris, например с алгоритмом ближайших соседей, изучаешь этот алгоритм, потом на какие более сложные алгоритмы переходить.

Я бы не поленился и повторил "всю" математику, без нее как-то все уныло
я тоже многое подзабыл пока варился в технологиях, языках и алгоритмах, сейчас наверстываю математику тоже

опять же, без математики, все уныло

это все хорошо, но есть несколько но. Время теоретически ограничено, хотелось бы быть в теме, хотя бы в течении года, максимум двух, чтобы смог бы претендовать на middle role.

плюс например я работаю, и не могу уделять математике и изучению всего всего (да оно на самом деле и не нужно) больше 3-4 часов в день, и то это будет максимум.

[Физик-Лирик]

3-4 часа в день - это афигеть как много. Я занимаюсь 1-2 час в день, в выходные 2-3 часа в день. Заканчиваю седьмой год, за это время прошла 2 года бакалавра, плюс два года мастера в статистике, параллельно научилась программировать. Фултайм работу и семью никто не отменял.

Народ, вы что? Зачем дома заниматься-то, когда для этого работа есть. Взяли, почитали книгу, изучили, а в оставшееся время можно и поработать, так сказать, закрепить материал. Дома спортом надо заниматься.
Королева, а Вы мастера тоже без отрыва от работы получали? Если так, то снимаю шляпу. Круто.

P.S. Вот хорошо вам всем. Книги читаете, новый материал изучаете. Цели разные преследуете. А мне вот что делать? Вроде всё, что интересно было, уже изучил, хотя правильнее будет сказать "изучал" (т.к. наверное, половину уже забыл, но хотя бы в принципе изучал). Всё остальное либо неинтересно (хотя может и полезно, но неинтересно), либо непрактично. Остаётся либо двинуть в теоретическую физику либо постоянно менять работу. Ну нету никакого размаха.

Время теоретически ограничено

Вот это мне больше всего понравилось. Давайте со мной в теоретическую физику. Будем вместе время расширять.

[blanko27]

https://lagunita.stanford.edu/courses/H ... 2016/about

лекции от авторов

Bad review

...
There are no derivations, and you don't learn to implement any method - you just use R packages to do it. You do learn a little bit (very tiny bit) about statistics, but not much else. I know what you may be thinking: "there is no need in implementing what is already available". That's true, but when you are taking a class on something, you expect to learn how the methods work, not just use some black box.
...
...you may learn some interesting stuff if you don't have much of a background on the area. Otherwise, it's a waste of time.

[Физик-Лирик]

[quote="Снежная Королева"] интуитивно про regularisation, quote]
Что за диалекты?

Регуляризацию надо по книгам классиков изучать, а не интуитивно. Возьмите классический труд А.Н. Тихонова, там все написано про решения некорректно поставленных задач.
Если вышеупомянутая ссылка про интуитивное объяснение регуяриСации относилась к ридж и лассо, т,е. Л2 и Л1 (а упомянутые выше авторы ими и занимались), то теория интересная (это собственно простое обращение плохо обусловленной матрицы, возникающей в случае коллинеарных переменных). Другое дело, нафига использовать линейную регрессию вообще, когда столько нелинейных методов. Регуляризация также применяется в суппорт вектор машине (задачу можно к ней свести), да и бустинг (например, градиентный) к ней прибегает. Кстати, у упомянутых выше авторов вышла (по моему в прошлом году) новая книга про регуляриационные методы. Никак руки у меня все не дойдут почитать. По бустингу рекомендую книгу с тем же названием. Сразу найдёте. А так, читайте классику В.Н. Вапника.

[Физик-Лирик]

А так работаю все время, мастер на 80% закончен.

Действительно круто

сразу выхожу на маркет

Как я Вас понимаю. Сам в поиске. Пришёл к выводу, что за интересную работу придётся доплачивать из своего кармана. Когда помоложе был (в смысле зарплаты ), все было пофиг. Сейчас жаба душит Короче, опускаюсь на самое дно.

[Rumba]

https://lagunita.stanford.edu/courses/H ... 2016/about

лекции от авторов

Bad review

...
There are no derivations, and you don't learn to implement any method - you just use R packages to do it. You do learn a little bit (very tiny bit) about statistics, but not much else. I know what you may be thinking: "there is no need in implementing what is already available". That's true, but when you are taking a class on something, you expect to learn how the methods work, not just use some black box.
...
...you may learn some interesting stuff if you don't have much of a background on the area. Otherwise, it's a waste of time.

там же много ревьюз, как хороших так и плохих, естественно, раные люди- разные мнения, ну и, понятное дело, взяв один такои класс дэйта саинтистом не станешь, из моего опыта - практически все бесплатные классы ориентированы на "кликните сюда, впечатаите это слово вон в ту строчку", а если теорию и затрагивают, то большеи частью: "let's develop an intuition for this concept" , так что на их фоне этот конкретныи класс далеко не самыи базовыи. чтоб толк был- книжки надо читать, а этот курс как раз таки class- companion к книжке. ну и что немаловажно- comes free and with no strings attached

[Физик-Лирик]

Да, под regularisation понимается L1 and L2.

Зачем линейные методы: затем, что полно задач, когда interpretability в триста раз важнее чем low prediction error.

Ну да, "лассо и "ридж", как я упомянул выше.
На самом деле, интерпретировать можно и нелинейный методами. Думаю, практически все они выводят таблицы значимости переменных. А вот как раз с линейными, если интерпретировать по p-value, геммор и может произойти. Можно легко получит инфлейтид пи-вальюс , если подсчитать по F test в случае коллинеарности. Из линейных, логическая регрессия и пропорциональный хазард - любимые развлечения медиков, считающими себя статистиками. Ну, так понятно. Они же больше ничего и не знают. А тут и "одсы" и "хазард рашиос". Любят они эти регрессии.

[blanko27]

Регуляризацию надо по книгам классиков изучать, а не интуитивно. Возьмите классический труд А.Н. Тихонова, там все написано про решения некорректно поставленных задач.

Обложка у книжки неправильного цвета (не желто-оранжевая) - пропускаем

[Larsonsager]

Интерпретируемость у одиночных деревьев или у маленьких лесов (рощиц?) превосходная.

[Larsonsager]

Вапника и Тихонова даже мне трудно читать, а вы хотите чтобы массы -гы вот для масс трудящихся надо объяснять интуитивно. Начальство тоже хочет объяснений на пальцах.

Не помню, писал ли уже. Недавно натолкнулся в букинисте на книгу со странным названием типа "Методы избавления от мешающих параметров", и хотя по названию совсем не понял, о чём речь, всё-таки открыл её. Книга 60-х годов, а речь там шла, говоря современным машинлернинговым языком, о feature selection. Мне поплохело уже с третьей страницы: суровая математика и совершенно непривычные термины.

[blanko27]

Вы когда нибудь пытались объяснить GBM риск менеджеру?

Was ist das - GBM?