NsF (Коммерческий тупик искусственного интеллекта)

[vit_r]

Dreikönigstag 2024

Судя по общим настроениям в соцсетях и вокруг, мы вошли в новый год в состоянии выгорания. Это не депрессия, это отсутствие сил и желаний.

Не надо спрашивать "Почему?", достаточно оглянуться на прошлый год и посчитать все разбитые мечты.

По такому поводу, писать что-то большое совершенно не хочется. Сейчас очень маленький вывод после тестирования некоторых неназванных методов на банальных задачах.

Коммерческий тупик искусственного интеллекта

[ itSotWC::2024-01-06_3, itSotWC::2024-01-06_4 ]

Предположим, что задачей системы искусственного интеллекта является выдача правильной информации. Правильной информацией мы сейчас считаем корректную и максимально правдоподобную информацию, неизвестную пользователю, который является источником запроса системе.

Чтобы проверить правильность информации и сверить с пользователем методы получения выводов, система искусственного интеллекта должна проследить информацию назад к первоисточникам.

Однако!

Система искусственного интеллекта (в её сегодняшнем понимании) ничего не производит, а только ворует результаты чужой умственной деятельности.

Это сразу создаёт административно-правовую проблему: Как только система сможет проследить информацию назад к первоисточникам, станут однозначно известны обладатели интеллектуальной собственности.

То есть, правообладатели начнут требовать свою долю в доходах. В результате, создателям системы искусственного интеллекта придётся платить за использование результатов умственного труда интеллекта естественного.

Однако!

Если платить правообладателям интеллектуальной собственности, то вся система искусственного интеллекта не окупается в принципе.

Есть конечно вариант объявить всю сворованную интеллектуальную собственность общественным достоянием, но мы не будем его здесь рассматривать. Будем считать, что правообладатели смогут доказать в суде свои права и суд согласиться эти права использовать.

Отсюда следует логичный вывод.

Чтобы приносить деньги, система искусственного интеллекта должна всячески препятствовать возможности проследить информацию назад к первоисточникам.

Итак.

Предположив, что задачей системы искусственного интеллекта является выдача правильной информации, мы получили неразрешимое противоречие.

Если аккуратно записать это в логических терминах (мне влом) и привести подтверждение использованных утверждений с аккуратными экономическими расчётами (мне ещё больше влом), то мы получим доказательство принципиальной невозможности создания честного искусственного интеллекта в его современной интерпретации.

Система искусственного интеллекта должна или нести бред, или получить разрешение на экспроприацию чужой собственности (пусть и интеллектуальной) без материальной компенсации.

Короче, выбор прост: ложь или разбой.

Таким образом, мы видим две дороги в будущее. И мы, естественно, понимаем, какую выберет прогресс.

Воровать и врать, конечно. Если кто ещё не догадался.

Ещё из интересного, на что сейчас смотрю, это вопрос энергетики. Во всей предыдущей истории Министерство Энергетики во главе с Министром Энергетики занимались предоставлением возможности увеличения энергопотребления на душу населения и только в двадцать первом веке задачей Министра Энергетики и его Министерства стало принуждение населения к снижению энергопотребления.

Там на концах логических цепочек тоже обещают вылезти интересные выводы. Но это уже влом расписывать.

Решил закрыть дырку в знаниях между Платоном и Декартом. Слушаю цикл лекций History of Christian Philosophy, by Daniel Bonevac 65 Videos, 2023

Comments

[juan_gandhi]

Ага, действительно.

Но зато теперь можно рисовать Микки Мауса (правда, DallE этого, наверно, еще не знает).

По второму вопросу, меня это давно уже удивляет. В Калифорнии эта тема была тоже. а) экономьте воду, товарищи; б) у нас тут доходы от продажи воды убавились, давайте повысим цену на воду для граждан.

[vit_r]

Образ Микки Мауса -- это единственный художетсвенный образ, который Дисней защитил как картинку. Для всех других персонажей защита изображения получается слишком дорогостоящей.

Сейчас защищают текстовую информацию как названия и имена. Причём, на всякий случай зарезервирована масса имён даже из тех, которые не применялись в какой-то продукции.

Процесс неизбежного роста цены энергии при переходе на зелёные технологии достаточно банален, но мне влом это сейчас расписывать.

[kotvsopagah]

Причем цена ВСЕГО завязана на эту стоимость энергии.

[vit_r]

Тут не столь важна не столько цена, сколько её отражение -- этот подход даёт возможность не только разорять население, но и контролировать его во всех мелочах.

[gena_t]

Я не специалист конечно, но мне кажется, что не все так с окупаемостью интеллекта и страшно. Сайчас Микрософт вставил этот интеллект в свой бинг и надеется за счёт этого что-нибудь урвать у гугла. Там несколько процентов рынка уже будут громадный деньги, которые все и окупят. И даже если ничего не выйдет, гуглу же все равно придётся свой интеллект внедрять. Так что не попадём, интеллект потихоньку разовьется и все будет замечатльно.

[vit_r]

Любая криминальная деятельность окупается, если не платить за ворованное. Главное, пролоббировать законы, которые этому способствуют.

[bibicalo]

То есть, правообладателям придётся платить за её использование.

То есть, придётся платить правообладателям за её использование.

[vit_r]

На такое можно не обращать внимание, если текст не на английском или немецком. Стилистическая правка (и добавление забытых идей) происходит где-то на второй день. Обычно мне некогда перечитывать сразу же после написания. Да и глаз замыливается.

[michaelkoloboff]

Про выгорание у меня такого впечатления не сложилось, по крайней мере в реале. В прошлом году очень много проектов похерилось, и народ очень активно искал альтернативы - и силы и желания я лично наблюдаю в количестве.
Скажем, апокалиптические российские шутки (типа: Аркадий, что вам помогло не ебнуться окончательно в прошлом году? - Ничего не помогло.) я не смогу местным объяснить - год как год, даже лучше прошлых.

[vit_r]

Я, всё-таки, не за весь мир, а только за европейский сегмент.

То, что российский народ себя уютно чувствует как раз в условиях апокалипсиса, это давно известно. Сейчас там, можно сказать, все вздохнули с облегчением -- наступили времена привычные и давно ожидаемые.

[lxe]

Нет никаких проблем сослаться на опубликованный результат и даже процитировать его в объеме, оправданном целями цитирования.
Другое дело, что при этом станет заметна вся топорность ИИ (в смысле "каша из топора") по сравнению просто с поиском по ключам с самостоятельной оценкой источников.
Но конкретно такой дилеммы, как в заявленных тезисах, -- нет.
Правовые сложности возникают у generative AI. И если они снесут IP law хотя бы в части likenesses и графических изображений, туда ему и дорога.

[vit_r]

Естественно, проблемы есть. Искусственный интеллект не использует цитаты, а занимается плагиатом.

Цитирование -- это не копирование мысли, а краткая ссылка для её подтверждения или опровержения.

[lxe]

Word salad.
Предметом авторских и смежных прав является буквальный текст источника. Мизатрибуция его буквального текста является плагиатом. Мизатрибуция изложенных в нем мыслей является плагиатом в том случае, если совершающий ее выдает эти мысли за свои. Иначе говоря, можно сказать "квадрат гипотенузы в эвклидовом пространстве равен сумме квадратов катетов", не нарушая ни авторских, ни смежных прав ни Пифагора, ни Евклида, ни Римана, ни Лобачевского. И можно сказать "по утверждению Погорельцева в (выходные данные учебника), квадрат гипотенузы…" (и так далее), также не нарушая ни авторских, ни смежных прав ни Погорельцева, ни Пифагора с Лобачевским.
Второе технически трудно сделать с помощью LLM, но это именно техническая трудность, а не противоречие в ТЗ.

[vit_r]

Скажите, зачем тогда существует проверка плагиата докторских, если просто можно переписать своими словами?

(frozen)

[gena_t]

А правда, зачем? Я слышал, это чтобы всякие реакционеры могли либералов гнобить, на днях так ректора Гарвардского университета заставили в отставку уйти.

(frozen)

[vit_r]

Заморожу-ка я ветку, а то кто-нибудь начнёт на самом деле отвечать на вопрос "Зачем?"

[anonim_legion]

Наверное, у доктора наук (странно, а где же пациенты наук? ведь должны быть) и у ИИ - разные задачи.

[vit_r]

Ну, да. Докторов наук и за фальсификацию результатов по шапке бьют.

Но тут вопрос был о присвоении информации.

[uselessextras]

-- Предположив, что задачей системы искусственного интеллекта является выдача правильной информации, мы получили неразрешимое противоречие.

Junk in, junk out.

[vit_r]

Они же утверждают, что это чудо будет составлять юридические договора и выдавать инструкции по лечению людей.

[uselessextras]

No doubt

[(Anonymous)]

Так оно и будет. О результате-то речи не идёт, "кушайте что дают".

Пока что вон уволили живых переводчиков из Дуолинго, дальше больше.

[(Anonymous)]

оффтоп ли это?

с нашей общей знакомой https://www.facebook.com/mammamiu - беда

у меня нет телеграмма, я пользуюсь предпросмотром в броузере, но не могу прослушать выложенные там аудиозаписи https://t.me/s/miumaunews

[vit_r]

У меня тоже нет телеграмма и, вообще, у этой платформы слишком подозрительная история общения с ФСБ.

Да, когда-то общались виртуально (в основном, про мотивацию https://miumau.livejournal.com/406410.html), но это было давно и с тех пор много воды утекло. Да и понимание вопросов сильно ушло от того уровня.

Ну, да, она попала в больницу. Пожелаем ей скорейшего выздоровления, но смотреть подробности не буду. Захватывающие рассказы о собственных болезнях -- это не тот жанр, который мне интересен. И так, масса информации на эту тему идёт мимо.

[michaelkoloboff]

По поводу ИИ, мне кажется, что предположение что "задачей системы искусственного интеллекта является выдача правильной информации" является через чур оптимистичным.

[vit_r]

Я по поводу того, как это дело пытаются продать пользователям. Да и стратегические направления немецких компьютерных наук выдают информацию в этом ключе. "Осталось только чуть-чуть допилить напильником, а потом..."

Понятно, что это может быть и скрытым требованием. Про кнопку "Сделать Правильно" написано, как раз, по результатам наблюдений за обсуждением этого вопроса.

Вот єта кнопка и будет платной

[xobbit]

Что уже не раз присходило на попередніх витках еволюції іТ. Ниже thread starter сам вспомнил про prolog. А вот мне недавно Copilot соврал, что противоречит гипотезе конкуренции с Google

[(Anonymous)]

"Задачей системы искуственного интеллекта является выдача максимально правдоподобной информации" - так правильно. Весь смысл работы современных LLM в "предсказать что вероятнее всего идёт дальше исходя из предыдущего текста", и с этим они неплохо справляются.
А корректность/правильность вторична - тестировать её автоматически тяжело, сажать людей проверять дорого. Основная надежда это что если скормить достаточно инфы всё скоррелируется само. И это +/- работает.

Если то что ИИ скармливают серьезно проверять на "правильность" - объемы (а с ними и средне-полезность) уменьшатся на порядки.

[vit_r]

Мы знаем, что бывает, когда врач ставит правдо-подобный диагноз, юрист даёт правдо-подобный совет, а бухгалтер делает правдо-подобную проводку.

На русском это называется: система искусственного интеллекта должна наёбывать пользователей.

Что, как бы, и не противоречит фактам, но сильно отличается от рекламы и научных предсказаний.

[gena_t]

Мне все-таки кажется, что еще рано говорить, что является задачей системы искусственного интеллекта. Эту штуку сделали, она может делать много всего интересного, но для чего оно будет применятся - время покажет. Это всегда так бывает, я думаю. Сначала одни люди придумывают что-то новое, а потом уже другие думают, зачем оно нужно. Может ничего полезного не и придумают, посмотрим.

[vit_r]

Фигня в том, что искусственным интеллектом я занимаюсь со студенческой скамьи. И среди прочего был курсовой проект на Прологе. Та же самая реклама, что льётся сейчас, была и в конце прошлого века. Но тогда быстро выяснилось, что для полезных дел нужна не просто информация, а полезная информация. А отделение полезной информации от ошибочной стоит денег. На чём пузырь и лопнул, оставив отдельные очень специфические и мало кому известные проекты.

С тех пор в принципиальном вопросе о качестве информации ничего не изменилось, разве что пользователи ещё больше поглупели.

Тут есть две возможности: а) отмотать этот блог на пару месяцев назад, прочитать, что уже было написано по поводу проблем искусственного интеллекта, подумать и избавиться от иллюзий или б) не тратить время на "думать" и оставаться в прежнем состоянии. Пересказывать десять раз одни и те же аргументы мне влом.

[(Anonymous)]

Я довольно много игрался с чатгопотой и подобными штуками, придя к выводу, что ее естественное применение - это освобождение ресурса мозга от генерации буллшита там где он почему-то нужен.

Другое дело, что если вам надо генерировать правдоподобно выглядящие тексты, для которых не важна или не существует истинность, возможно стоит избежать этого труда более радикально, сменив род или место деятельности на что-то ещё, но, с другой стороны, кто я такой, чтобы осуждать людей в поисках куска хлеба.

Генераторы картинок же могут служить инструментом быстрого прототипирования для иллюстраторов, тем более что они все равно прут чужую интеллектуальную собственность как не в себя, обрисовывая фотки и куски чужих работ.

[vit_r]

Ну, да. Если раньше создавали мысль, а потом наливали воды, то сейчас нахаляву можно использовать замечательные тулы, которые выливают массу воды. И, если отгрести говно и добавить мысльей, получается почти тот же результат.

А если ещё и пройтись со стиллистической правкой, то получится почти то же, что и в первоначальном варианте. Но тут уже затраты времени сравнимы.

Другое дело, какой-нибудь начальник мог бы удивиться, что один день сотрудник пишет как Шекспир, а другой день как Байрон. Но риск, что это будут читать, пренебрежимо мал. А ткнуть начальника пальцем в строчку, где вложена мысль, можно и так.

[elglin]

Генераторы картинок бешено зашли людям, играющим в настольные РИ вроде ДнД, сильно убыстрив производство картинок локаций, NPC и неведомых МакГаффинов. Тут и прототипа в половине случаев достаточно.

[vit_r]

У меня огромная просьба: не надо сюда кидать куски текста с чужими мыслями. Мне совершенно влом спорить с неизвестными журналистами, блогерами и прочими, которые не понимают, о чём пишут.

Комментарий удалён.