kaggle.com - competitions

[Sergunka]

Блин затягивает лег поздно добился 0.8 в предикшин сижу пока в первых трех сот aka top 12%. Туплю реально, но судя по всему позади меня еще тупее

Получается работать только по выходным сегодня вечером поднял результат с 0.8 до 0.809 опять топе < 20%. Если кто хочет вписаться еще есть время, я помогу чем смогу

Сегодня сделал тюнап этого кренера от китайца
https://www.kaggle.com/shaojiaxin/u-net ... 2-new-loss

Нашел особенность своей карты она считает лучше при batch = 16

Code: Select all

reduce_lr = ReduceLROnPlateau(monitor='val_my_iou_metric_2', mode = 'max',factor=0.2, patience=15, min_lr=0.000001, verbose=1)

Подкрутил фактор и learning rate уменьшил на 0 ну и число попыток поставил.

Пробил 0.811 - и опять за мной 2К+ леменгов в переди меня видимо те кто этим занимается и может код на питоне писать три сотни человек

[АццкоМото]

Блин, жопа. У меня Линукс бокс к тентелю прикручен. Оооооочень не хочется фтыкать туда шумную видимокарту

[Sergunka]

Блин, жопа. У меня Линукс бокс к тентелю прикручен. Оооооочень не хочется фтыкать туда шумную видимокарту

У меня карта 1080 не шумит, но там и проц на водяном охлаждении. Правда сегодня первый раз комп повис после 5 часов счета. Вообще игра затягивает как хорошая стратегия Вчера лег во втором часу ждал пока просчитается первая часть и сегодня уже встал в 7 утра пусканул вторую часть -- улучшил результат на 0.02. Когда видишь как ты обходишь таких же леменгов как ты очень повышает собственную самооценку Ну и потом вместо того что просто посидеть за компом еще и чего-то подучишь

[Физик-Лирик]

Идея folds возникла из проблемы необходимости равномерного обучения по всему набору.Как правило получается лучший вариант.

Данный подход много раз был описан как 'ансамбли' или 'бутстрапы'. Только это, учитывайте, что Вы там соревнуетесь с искусственным интеллектом. Тысячи индусов настакают такое количество моделей, что вы их никак не переплюнете. И центральная предельная теорема будет им в помощь. Увы...

Я, конечно, извиняюсь, но бутстрапы и крос-валидация - разные вещи.

ТС Если вы еще набираете команду, то с удовольствием поучаствовал бы. Не уверен, правда, что я смогу работать на вашем железе, но готов присоединиться к мозговому штурму. Если что, дайте знать в личку.

[Sergunka]

Идея folds возникла из проблемы необходимости равномерного обучения по всему набору.Как правило получается лучший вариант.

Данный подход много раз был описан как 'ансамбли' или 'бутстрапы'. Только это, учитывайте, что Вы там соревнуетесь с искусственным интеллектом. Тысячи индусов настакают такое количество моделей, что вы их никак не переплюнете. И центральная предельная теорема будет им в помощь. Увы...

Я, конечно, извиняюсь, но бутстрапы и крос-валидация - разные вещи.

ТС Если вы еще набираете команду, то с удовольствием поучаствовал бы. Не уверен, правда, что я смогу работать на вашем железе, но готов присоединиться к мозговому штурму. Если что, дайте знать в личку.

Да за любые идеи будем благодарны тут я не один поглядываю на это соревнование. Мне не в лом если Вы пришлете Ваш вариант кернела и я его прогоню для Вас на своем компе. И потом сабмишин файл отправлю Вам по почте Вам только останется его загрузить через Ваш профайл.

Я сейчас гоняю этого перца который и дал мне 0.81
https://www.kaggle.com/shaojiaxin/u-net ... 2-new-loss

У меня сейчас идея поработать с общем трендом как в коментах

upsizing not yet. increasing epochs got 0.822, with more train augmentation 0.824, with 5-fold average 0.830.

Сам перец уже добрался до топ 6%

[Sergunka]

Я не знаю не пробовал, но мне кажется там на кегле есть вариант когда можно делать запуск просчета прямо на кегле - я помнится пусканул но там как то мунто толи пусканулось то ли ждать сутки В общем там есть JUpiter - fork и копмит типо.

[tessob]

Я, конечно, извиняюсь, но бутстрапы и крос-валидация - разные вещи.

Я писал про то, что принцип семплирования давно нашел применение там и там. Не нужно занудствовать.

[Sergunka]

В общем на этой неделе буду изучать типо вот такого

Basic data augmentation
I'll try basic data augmentation by just flipping the images horizontally.

Code: Select all

X_aug = np.concatenate((X, [np.fliplr(img) for img in X]), axis=0)
y_aug = np.concatenate((y, [np.fliplr(img) for img in y]), axis=0)
# Split the train data into actual train data and validation data
# train_test_split already shuffles data by default, so no need to do it

X_train, X_val, y_train, y_val = train_test_split(X_aug, y_aug, test_size=0.25, random_state=42)

Сейчас пока ищу код как делать искажения ака augmentation в тренировочных данных, чтоб типо размытое изображение, перевернутое и "белый низ, черный верх" как по Райкину. Как чего найду закопипастю и пульну на счет. Хотелось, конечно, делать умное лицо и надувать щеки, но больше пробивает на ржач - и за это еще и деньги платят?!

[tessob]

Сейчас пока ищу код как делать искажения ака augmentation в тренировочных данных, чтоб типо размытое изображение, перевернутое и "белый низ, черный верх" как по Райкину.

Посмотри Geometric Transformations of Images в OpenCV. Там и примеров кода вагон и работает быстро.

[Sergunka]

Сейчас пока ищу код как делать искажения ака augmentation в тренировочных данных, чтоб типо размытое изображение, перевернутое и "белый низ, черный верх" как по Райкину.

Посмотри Geometric Transformations of Images в OpenCV. Там и примеров кода вагон и работает быстро.

Спасибо.

Я пока на уровне чукча читает и пытается осознать прочитаннное. Мне вот этот перец вкатил очень просто заясняет

https://machinelearningmastery.com/imag ... ing-keras/

[Komissar]

нам тут один вендор показывал "ML", что они привинтили к своей приблуда (приблуда - очередная итерация прослойки над реляционными базами). "МЛ" заключался в том, что приблуда сочиняет более "человеческие" имена полям базы, вместо дбадминских сокращений. У них аж словарь из 5000 значений загружен для этого дела. Но приблуда не наглеет: как придумает название, так его надо хьюману "утвердить". Причем, если хьюман поправил предложенное приблудой название, скажем, с "temper" на "temperature", то через 5 (пять!) раз таких поправлений, приблуда затрет в своем словаре "temper" и навечно заменит на "temperature".

[Komissar]

увидев тему, подумал, что речь идет об упражнениях Кегеля... разочарован.

[tessob]

Я пока на уровне чукча читает и пытается осознать прочитаннное. Мне вот этот перец вкатил очень просто заясняет

У OpenCV, мне кажется, более простой API. В конце концов вы просто пытаетесь ‘раздуть’ свой датасет. Вы можете спокойно применять любые трансформации и их комбинации к вашим изображениям до тех пор, пока сами способны отнести изображение к некоторому классу. Хорошо себя показывает вращение градусов на 15, равномерное и неравномерное заблюривание, изменение контраста как во всех, так и в отдельных цветовых каналах. Ваши ограничения — только ваша фантазия и объём диска.

[Физик-Лирик]

Я, конечно, извиняюсь, но бутстрапы и крос-валидация - разные вещи.

Я писал про то, что принцип семплирования давно нашел применение там и там. Не нужно занудствовать.

Я не знаю, что вы хотели написать, но написали то, что написали, а именно ... извиняюсь ... ну как бы помягче сказать, чтобы не обидеть.

[Физик-Лирик]

нам тут один вендор показывал "ML", что они привинтили к своей приблуда (приблуда - очередная итерация прослойки над реляционными базами). "МЛ" заключался в том, что приблуда сочиняет более "человеческие" имена полям базы, вместо дбадминских сокращений. У них аж словарь из 5000 значений загружен для этого дела. Но приблуда не наглеет: как придумает название, так его надо хьюману "утвердить". Причем, если хьюман поправил предложенное приблудой название, скажем, с "temper" на "temperature", то через 5 (пять!) раз таких поправлений, приблуда затрет в своем словаре "temper" и навечно заменит на "temperature".

Это вам что, консалтеры очередной продукт впендюрить хотят? Мой вам совет. Когда слушаете презентации консалтеров, обязательно пригласите дейта сайнтиста, того,что поумнее и который не боится высказывать свое мнение перед начальством. Много интересного о продукте узнаете. Нет, я, конечно, не утверждаю, что все продукты гнильем пахнут. Бывают даже очень.