Re: ИИ и музыка

[Frukt]

ИИ это последняя фаза перед концом света. Весь "прогресс" сошелся на создании замены своему мозгу, года через 2 когда начнется массовая замена людей ИИ начнется повальная безработица и наркомания даже среди среди тех кто всегда считал себя well off, и печальный, но ожидаемый конец для всех нас.
Мы забыли Бога и он нас забыл.

Я думаю, с определенного момента допуск к этому делу ограничат. Или запретят создание слишком умного ИИ, чтобы как раз не произошло вышеуказанное. Ну или настанет коммунизм, как вариант.

В принципе да. Сейчас наиграются и ограничат. Серьезные разработки ИИ будут засекречены на уровне военных технологий.

[OtherSide]

У китайцев репутация промышленного шпионажа и создания подделок. Возможно в данном случае предвзятое отношение к их решению. Поживём — увидим.

Эти не репутация, просто информационная война с конкурентом со стороны США и создание образа врага у в целом недалекого и плохо образованного населения с целью наложить лапу на их налоговые отчисления.
Если бы у Китая действительно была такая репутация компании типа Аппл там не строили бы заводы.

Тем не менее китайцы ранее были замечены своими подделками известных брендов. Немного позже подделки прятать стало трудно и в Китае
начали выпускать похожие копии известных мировых брендов. Бренд стоит денег.

Apple iPhone – Xiaomi
Canon (фототехника) - Yongnuo
Sony (аудио) – Hisense
Rolex – Binger
Cartier (ювелирные изделия) - Chow Tai Seng
Gucci – Ochirly
Многое другое.

Существует целый список известных мировых брендов, которые китайцы копируют. В Китае научились производить похожие копии, чтобы избежать судебных разбирательств.

Все что вы перечислили не требует каких то глубоких научных открытий, а обычный бизнес, где главное сам продукт. Тем более ничего общего у саяоми и эппл нет, кроме попытки создать культовый бренд - но никакого воровства тут нет.
Кроме того "воровстово" идей и трендов вполне себе легальный бизнес шаг

[OtherSide]

ИИ это последняя фаза перед концом света. Весь "прогресс" сошелся на создании замены своему мозгу, года через 2 когда начнется массовая замена людей ИИ начнется повальная безработица и наркомания даже среди среди тех кто всегда считал себя well off, и печальный, но ожидаемый конец для всех нас.
Мы забыли Бога и он нас забыл.

ИИ не замена мозгу а в теории помошник, но его основная опасность не в том что он будет лучше петь плясать и рисовать чем человек, а как инструмент тотального контроля.
Очевидно что первое применение будет для военных, спецслужб и корпораций - для слежки и профайлинга. Биг дата будет знать больше о вас чем вы сами
А использовать ллм да бы кропать второсортные стишки - это как палить из пушки по воробьям. Дело даже не в том что стишки бездуши, а в том что рынка особо нет. Для чего людям миллиарды и триллионы виршей?

[alex5]

ИИ это последняя фаза перед концом света. Весь "прогресс" сошелся на создании замены своему мозгу, года через 2 когда начнется массовая замена людей ИИ начнется повальная безработица и наркомания даже среди среди тех кто всегда считал себя well off, и печальный, но ожидаемый конец для всех нас.
Мы забыли Бога и он нас забыл.

ИИ не замена мозгу а в теории помошник, но его основная опасность не в том что он будет лучше петь плясать и рисовать чем человек, а как инструмент тотального контроля.

Петь и плясать может не будет лучше, но основные работы заменить легко, тем более, что это уже не просто помощник, а технология превышающая возможности человека. ИИ роботы будут делать всю работу, от примитивной до высокотехнологичной, людей надо будет очень мало, поэтому ждем новых вирусов которые уничтожат "ненужных".
Миллиардеры все это придумавшие и спонсирующие тоже долго не проживут, они слишком жадные, что бы это сейчас понять, жадность нивелирует мудрость.

[OtherSide]

ИИ это последняя фаза перед концом света. Весь "прогресс" сошелся на создании замены своему мозгу, года через 2 когда начнется массовая замена людей ИИ начнется повальная безработица и наркомания даже среди среди тех кто всегда считал себя well off, и печальный, но ожидаемый конец для всех нас.
Мы забыли Бога и он нас забыл.

ИИ не замена мозгу а в теории помошник, но его основная опасность не в том что он будет лучше петь плясать и рисовать чем человек, а как инструмент тотального контроля.

Петь и плясать может не будет лучше, но основные работы заменить легко, тем более, что это уже не просто помощник, а технология превышающая возможности человека. ИИ роботы будут делать всю работу, от примитивной до высокотехнологичной, людей надо будет очень мало, поэтому ждем новых вирусов которые уничтожат "ненужных".
Миллиардеры все это придумавшие и спонсирующие тоже долго не проживут, они слишком жадные, что бы это сейчас понять, жадность нивелирует мудрость.

Думаю что модель распространения ллм сложно предсказать. В первую очередь поменяют бизнес процессы (оптимизируют людей). Очевидно что ценность физического труда будет расти по сравнению с умственным . Как то контролировать и остановить ллм невозможно, т.к. для него нужны не такие уж и большие ресурсы, грубо говорят можно завести в гараже/подвале, поэтом никакие юристы и контролирующие органы не остановят.
Основной момент, что ллм не обязательно быть лучше людей во всем, большинство человеческих работ очень примитивно и не надо быть гением типа Эйнштейна или Толстого что бы на 80-90% не заменить их работу.
Я в своей работе ллм активно использую - производительность моя выше в 10+ раз - спокойно пишу код на незнакомых ЯП
На самом деле думаю что третья мировая и ллм/ии связаны очень сильно так как оба инструмент переделки мира (ну или его конца)

[Канадол]

Ну, в принципе, Терминатор все смотрели. Тут хорошо бы помечтать, что ИИ принесет золотой век, поможет человечеству решить его проблемы, освоить космос и т.д. Но это вряд ли...

[OtherSide]

Ну, в принципе, Терминатор все смотрели.

Проблема в том что люди делают выводы об устройстве и возможностях ЛЛМ по стереотипам и художественной литературе. Понятно что реальная концепция совсем другая, чем начали фантазировать еще в 19 веке. Никакой электронной души и воли нет и даже мозг языковые модели не моделируют, а моделируют внезпано - язык и ИИ куда ближе к лингвистикие чем нейрофизиологии.
Никакого противостояния ИИ/человек не может быть, а может быть противостояние одних групп людей с новым инструментом в руках и других

[Frukt]

Ну, в принципе, Терминатор все смотрели. Тут хорошо бы помечтать, что ИИ принесет золотой век, поможет человечеству решить его проблемы, освоить космос и т.д. Но это вряд ли...

Если на тему про мечты и роботов, то лучше сборника "Роботы утренней зари" А. Азимов я не встречал. Иногда перечитываю.

[Канадол]

Проблема в том что люди делают выводы об устройстве и возможностях ЛЛМ по стереотипам и художественной литературе. Понятно что реальная концепция совсем другая, чем начали фантазировать еще в 19 веке. Никакой электронной души и воли нет и даже мозг языковые модели не моделируют, а моделируют внезпано - язык и ИИ куда ближе к лингвистикие чем нейрофизиологии.

Ключевое слово тут ПОКА. Кстати, что такое сознание никто не знает, равно как и как оно возникает, и как это контролировать не очень понятно.

Никакого противостояния ИИ/человек не может быть, а может быть противостояние одних групп людей с новым инструментом в руках и других

Вам от этого легче? То и другое чревато использованием сверхчеловеческих способностей против человеков.

Про DeepSeek:

С генерацией и обработкой текста DeepSeek справляется отлично — будь-то написание сценариев, продумывание романа, рерайт текста, создание стихотворений или программирование. DeepSeek демонстрирует превосходную грамотность и логичность, давая полные ответы и генерируя оригинальные идеи.

Несмотря на то, что речь идет об искусственном интеллекте, он способен выдавать забавные ответы и даже может понимать, когда пользователь пытается подшутить над самой нейросетью.
https://www.gazeta.ru/tech/2025/01/29/20452274.shtml

Тем временем:

Сотрудники американской компании по кибербезопасности Wiz нашли в открытом доступе базу данных ClickHouse, принадлежащую китайскому ИИ-стартапу DeepSeek
https://www.gazeta.ru/tech/news/2025/01 ... 8046.shtml

[Канадол]

Вчера поигрался с DeepSeek. Он притормаживает, что понятно, и еще не понравилось то, что ссылок на свои ответы не дает, т.е. где взял инфу - непонятно. В отличие от ChatGPT. А еще даже при указании на ошибку с указанием источника не исправляет ее. Режим reasoning прикольный, но понятно, что это чистый маркетинг.

[Сева]

Вот когда, очень скоро имхо, разработают и запустят worldwide distributed AI, во тогда то будет веселуха
Всего то ничего надо: научить его защишаться от выключения
То есть менять свой код, тестировать его на вшивость и уязвимость, исполняемые бинарники, порты и узлы общения.

[OtherSide]

Вам от этого легче? То и другое чревато использованием сверхчеловеческих способностей против человеков.

Дело не в том что легче или не легче, если цель повздыхать, то да, вопрос закрыт
А в том что бы хоть как то прогнозировать будущее. Пока что я вижу что нам ссут в уши что опасность ЛЛМ в том что они захватят мир и над ними нужен контроль правительства западных стран.
Хотя как раз в контроле правительства и есть основная опасность

[Канадол]

В сериале West World искусственное сознание возникло в результате того, что у роботов стирали личность, но не стирали память. В результате после N итераций (жизненных циклов) у роботов накопилось достаточно знаний для того, чтобы самостоятельно принимать решения. В частности для того, чтобы не позволить себя убить в очередной раз. В нашем случае LLM располагает ВСЕМ опытом человечества. Т.е. вопрос в следующем шаге. В сериале еще хорошо показано то, как ИИ мягко взяли контроль над человечеством, для начала просчитывая то, как вроде бы случайные события влияют на жизненный путь конкретного человека и человечества в целом. При этом сами люди ни о чем таком не догадывались.

[OtherSide]

Неинвазивное сращивание с ИИ
У меня одно из первых детских воспоминаний, это попытка осознать разницу между магией и техникой. Видимо кто-то рассказал мне, что современная на тот момент техника вылядела бы как чудо для прошлых поколений и это было бы для них шоком и потрясением. Более того, они бы не смогли себя найти в этом мире. Чуть позже, в подростковом возрасте, я с тем же настроением читал "Возвращение со звезд Лема". Да и совсем недавно, считалось что пользование компьютером это сверх навык, считалось что "люди старше 50-ти" не способны его осилить, потом тоже говорилось про пенсионеров.. Оказалось большинство пенсионеров свободно освоило звонки и покупки в интернете, все дело было в лени. Жизнь в мире техники не требует особых качеств и мобильными устройствами могут пользоваться дети, которые еще едва говорят. А, возможно, и животные тоже. Если подумать, то техническое изобилие не вызывает никакого культурного шока, животные и маленькие дети не падают в обморок при виде сложной техники и она не вызывает у них шока, только если она не оказывает на них прямое физическое войдействие. В остальных случаях, они не чувствуют ни удивления, ни опасности. Можно вспомнить относительно недавнюю историю - помню еще в середине нулевых обсуждалась опасность следящих микрочипов, позволяющая контролировать людей и обсуждали насколько это опасная технология и на сколько масштабный протест она вызовет, т.к. ознаменует приход "Сатаны" и как легко может будет вычислить таких "сатанистов". Но всего через несколько лет оказалось, что можно легко устроить тотальную слежку и без всяких чипов - с помощью следящих устройств, которые люди сами, добровольно носят с собой и масштабной сети камер. По возможностям современная следящая сесть на порядке мощнее изначальных встраевымоих чипов, но в силу неинвазивности люди легко приняли эти изменения. Оказалось, людей страшат вовсе не социальные изменения, а только принудительное воздействие на их тело. Сейчас говорят о сращении человека и ИИ. И опять, фантазии рисуют неких киборгов, "мозг в банке" приделанный к робо-телу. В действительности же, сращивание интеллекта и компьютерных систем идет давно и активно. Я очень давно заметил, что я давно делегировал функции своего сознания извне. Например, я практически не способен написать код на листике. Я не помню ни библиотек, ни синтаксиса, ни даже названия ключевых слов. Частично, навыки ушли в тактильность и связь с базами данных в интернете. Я стараюсь помнить только самые базовые принципы и то, что можно найти. Фактически, гугл атрофировал часть сознания, заменив его своего рода протезом, как например часть тела была бы заменена механизмом. С появлением ИИ я вижу, что процесс идет еще более активно. Я стараюсь не только запоминать меньше, но и более небрежно строю логические схемы, делегируя вс ИИ, оставляя основную часть работы для него. Когда изучаю новые языки и технологии, я уже держу в голове, что мне в следующий раз тоже поможет ИИ, и не стремлюсь погружаться глубоко. Со временем, это станет промышленным стандартом - потому что во много раз ускоряет производительность труда. Проблема в том, что мы использовали прошлые наработки и до этого, но они были построены на научных принципах, которые подразумевает, что при желании мы можем восстановить всю цепочку рассуждений. Особенность же ИИ в том, что его рассчеты изначаельно не построены на цепочках рассуждений и проверяются лишь эксперементально и результат основан на доверии. Рано или поздно для эффективности придется отказаться от проверок и логических построений и использовать результат думающей системы, которой придется доверять, при этом никто не будет знать на чем основаны эти решения. Это и есть то самое неинвазивное сращение с ИИ, которое будет отличаться от инвазивного, в котором чип с ИИ непосредственно в строен в нервную систему лишь типом интерфейса.

[OtherSide]

Ближайшее будущее с ИИ
Я и сам до последнего момента крайне скептически относился к ИИ, потому что долгое время был уверен, что текстов недостаточно, нужен жизненный опыт. Видимо, я ошибался.

Искусственный интеллект скорее сильно недооценен, чем переоценен. Я даже удивлен, что все происходит столь буднично. Шутка ли, взята планка, которая казалась недостижимой — пройден тест Тьюринга. ИИ доступен, если не для творчества, то точно для креатива.

Я лично на данный момент пользуюсь o1 практически каждый день в работе. Я уже и мыслю не задачами, а запросами к ИИ — перебираю в голове, как правильно составить запрос, а не найти решение. Если заканчивается лимит на запросы, я просто жду восстановления лимита и без него к работе не возвращаюсь. Большинство текущих задач он щелкает как орешки. Если где-то вылетает с ошибкой или не компилируется — просто скидываю код и логи, не читая, и почти всегда получаю валидный ответ. Многие возражают, что человек все равно нужен. Во многом сейчас человек нужен просто для того, чтобы правильно составить запрос и аккуратно скопипастить ответ. Именно на это у меня уходит большая часть рабочего времени. Очевидно, что это тоже очень временно. Это лишь временные технические сложности с недоработкой IDE и ограничением на ввод. Очень быстро автоматизируют и это. Ключевые моменты, где уже не справляется ИИ, — это большие проекты. Если больше примерно 1000 строк, он уже начинает запинаться и галлюцинировать. И даже если будет практическая непроходимая граница размера окна запросов и он никогда не будет больше, допустим, 10 000–100 000 строк, все равно это не принципиально. Точно так же можно будет написать отдельные модули ИИ, которые будут восстанавливать архитектуру и структуру классов и работать с ней помодульно, как собственно человек и делает в реальности. Конечно, рано или поздно мы упремся в то место, где все же будет нужен человек, но границы этого места не видны даже теоретически. Кроме того, профессия этого программиста будущего не будет иметь ничего общего с текущей профессией. Как современные программисты говорят, что алгоритмы не нужны, так и хипстеры 2040 года будут возмущаться, что их требуют писать код или знать хотя бы один язык программирования. Рискну предположить, что и ЯП сильно преобразуются и станут удобными непосредственно для ИИ и станут даже теоретически непригодны для поддержки (что-то типа Brainfuck).

Почему-то многие уверены, что замещение ИИ человека будет выглядеть как замена его на рабочем месте буквально роботом, ну или как минимум подключение напрямую к RDP вместо него... И приводя такие абсурдные предположения, уверены, что они не сбудутся и сами люди будут востребованы на рынке труда. Разумеется, это не так. Для обычного человека это будет выглядеть просто как плавное, но стремительное сокращение вакансий и появление небольшого количества новых со странными и экзотическими требованиями. Бизнес, хоть и более динамичен, чем обычные люди, но все равно новую реальность осознает не сразу.

Следующий, почему-то не очевидный для многих момент, в том, что пытаются нивелировать преимущества ИИ, говоря о том, что реальное творчество ему недоступно. Я могу возразить, что настоящее творчество и мало кому из людей доступно, это раз. Но главная опасность в том, что ИИ будут использовать не для создания шедевров искусства, а для слежки и профайлинга. Можно видеть, что первые активные пользователи, конечно, не авангардные художники, а государство, военные, спецслужбы, а также кадровые агентства и за ними бизнес для анализа подчиненных и конкурентов. Даже мало доступный ныне социальный лифт исчезнет совсем. Власть имущие первым делом озаботятся сделать свою касту еще более закрытой. Генералы позаботятся о будущем своих детей.

Глобальная проблема в том, что мы понятия не имеем, почему ИИ работает. Мало кто ожидал, что из графа статистики связей слов выйдет что-то осмысленное. Первые версии ИИ только плевались обрывками фраз, в которых что-то смутно угадывалось, как "ГЛАВРЫБА" у новорожденного Шарикова, но сейчас ИИ временами шпарит уже не хуже самого Преображенского. Отсутвие полного понимания принципов его работы говорит об отстутвии прогнозирования и контроля. Определенно, может предствлять опасность то, что мы не можем полностью спрогнозировать и следовательно, контролировать, но существенно влияете на нашу жизнь и решения. Навряд ли ИИ когда-то будет иметь свободу воли, но уже происходит своего рода симбиоз и сращивание - пусть не на физическом уровне, но на уровне мышления. Доступность интеллекта резко нивелирует его стоимость. Можно заметить по истории дизайна — когда было сложно тиражировать декор, царствовал стиль барокко. Когда тиражирование упало в цене — стал модным конструктивизм и минимализм. Дешевизна оформления и иллюстраций резко упадет в силу их доступности. Дизайнеры станут не нужны даже не потому, что ИИ станет лучшим дизайнером, а просто потому, что упадет спрос на дизайн. То же самое можно будет сказать про любой вид искусства. Не уверен, что сохранится спрос на дешевые сериалы, если их можно будет сгенерировать по одному клику мыши. Даже если и не по клику, а за пару вечеров работы студента-сценариста. А высокое искусство и сейчас не пользуется спросом, но живет за счет индустрии в целом. Как оно будет существовать в новых условиях тоже не ясно. Собственно, это можно будет сказать про любую интеллектуальную и творческую работу — порог входа, где человек сможет конкурировать с ИИ, будет слишком высок. Ситуация похожа на сегодняшнюю со стартом айтишной карьеры — к джунам требования как к сеньорам 10 лет назад, и все равно работу им найти сложно. Похоже, в этом плане ситуация усугубится.