Про немецкие компьютерные науки

[vit_r]

Theodor 2023

Smart Clouds на горизонте

Сегодня тут был день искусственного интеллекта и человеческой тупости.

Сначала по второе.

В первой половине дня была типа приёмка этого дебильного зелёного отопления. (Естественно, обнаружили недоделки.) Пока что, напишу как в неприличной версии старого советского анекдота.

Рабинович получает от Абрамовича телеграмму: "Шмулик, бляяяяя! Подробности письмом."

Пришла баба, которая тут архитектором. Пять минут разговора -- и никаких сомнений. И никаких вопросов, почему в стенной шкаф спрятаны батарея отопления и распределительный щит. И зачем сломали мазутный котёл. И почему никто не знал, что надо делать. И почему получилось то, что получилось.

Но это потом. Сейчас то, что нельзя было, даже, предсказать.

Она не просто пришла с подрядчиками после того, как подрядчики уже всё везде наделали. Она не просто раздавала указания, что там нужно переделать. Она не просто несла дикий бред в ответ на пару заданных вопросов. Она не просто не врубается, как что работает. Она ещё и пыталась подсунуть бумажку.

Нет, не оставила для изучения, а распахнула папочку и сунула под нос: "Подпишите здесь! Вы получите очень выгодную гарантию на это замечательнейшее отопление!"

Ладно, остальное потом с картинками. Подробности выясняются всё более и более интересные.

Надо будет завтра написать квартиросдатчику, чтобы послал нам копию всего этого в письменном виде.

Теперь про первое.

Сейчас слушаю вебинары по искусственному интеллекту в маркетинге. (Продуктивная работа на данный момент невозможна, потому что ещё не весь мат удалось выгрузить из оперативной памяти.) В то время, когда они припёрлись -- понятно, что время выбрано когда им удобно, а не когда у меня оно есть -- слушал выбинар про искусственному интеллекту в малых и средних предприятиях. (Фирма https://www.ionos.de/, для примера их рекламка Smart Cloud.)

Из интересного.

Кроме известных рисков получить чушь вместо нужной информации было рассказано о нескольких достаточно специфичных подводных камнях искуственноинтеллектуализации.

Например, мы скормили искусственному болвану информацию из внутренней документации. С этого момента контроль за правами доступа потерян.

Если правильно спросить, можно многое узнать.

Причём, внутренние секреты -- это только проблемы фирмы. Если искусственный болван будет разбалтывать личные приватные данные клиентов, то это уже будут проблемы с судами и контролирующими органами.

Причём, -- в добавок к этому -- законодательные требования на удаление персональной информации выполнить уже не получится.

И не только потому, что сложно это сделать, но и потому, что невозможно доказать, что это сделано правильно.

Также стоит помнить, что только информация, сохранённая структурно, может быть защищена, а та информация, которая попала внутрь искусственного болвана, уже не хранится в структурированном виде. То есть, законами уже не защищается.

Ситуация напоминает выбрасывание на помойку. Любая бумажка, попавшая в корзину для бумаг, автоматически считается не секретной, не защищаемой и не принадлежащей. Любое её дальнейшее использование и перемещение ненаказуемы.

Можно, конечно, поймать уборщицу, выносящую из кабинета директора черновую копию договора и не понравившуюся ему версию отчёта отдела разработки. Но попробуй поймай злоумышленника, который кое-что у искусственного болвана правильно спросил через веб-интерфейс из Суринама.

С защитой интеллектуальной собственности и торговых марок ещё хуже.

Всё, что произведено искусственным болваном, никакими авторскими правами не защищается.

Однако!

Всё, что произвёл искусственный болван, должно быть достаточно оригинальным. Любая похожесть на что-то защищаемое торговыми марками или авторскими правами уже попадает под все виды ответственности.

Даже просьба сбацать что-то похоже на Баха может привести к интересным разборкам.

Бах, понятно, уже не может подать в суд. Однако, оркестр, сыгравший Баха, вполне может это сделать.

И, естественно, ответственность за выдачу неправильной информации клиентам и партнёрам тоже никто не отменял.

Применение результатов без предварительной проверки и визирования работником фирмы -- это уже может попадать под определения безответственного выполнения обязанностей.

На выходе искусственного болвана надо сажать болвана естественного хотя бы для того, чтобы отвести обвинения в преднамеренной халатности.

Но это ещё не всё. Чиновники и политики очень озабочены революцией искусственного интеллекта. А потому, уже ввели, собираются ввести и, без сомнения, будут вводить всё новые и новые виды танцев с бубнами, которые придётся выполнять, чтобы не попасть под всевозможные штрафы и запреты.

Понятно, что модели из других стран (не ЕС) и передача наполненных информацией моделей в другие страны, да и просто работа на другие страны создают массу проблем с отчётами по выполнению европейских правил по защите данных.

Попробуй докажи, что персональных данных там нет.

Понятно, всё придётся защищать бумажками. Каждый чих должен быть описан во внутрифирменной документации, а работники должны быть обучены каждому виду работ с искусственным болваном вместе с правилами применения результатов его работы.

Короче, очень полезная штука. Внедрение принесёт огромную экономию.

Если на это внедрение и поддержание внедрённого хватит денег.

Кстати, эта архитектор выдала единственную цифру. По её словам, нагревать воду напрямую потребует на 30% больше электричества, чем гонять все эти контуры с подогревающей водой, нагревающей горячую воду, и изподземной водой, нагревающей подогревающую воду, а также электрическим подогревателем, догревающим подогревающую воду.

Похоже, глубина её непонимания гораздо глубже того, что можно ожидать даже в Швейцарии.

Закончу тем, что мы попали в какой-то неправильный мир и он на наших глазах становится ещё безумнее.

Взять, хотя бы, современный язык.

Они уже складывают слова, не обращая внимание не только на отсутствие логических связей, но и на наличие логических противоречий.

Например, сейчас могут обвинить в пассивной агрессивности.

Ты думаешь, что ничего не делал. Но ты это ничего не делал очень агрессивно.

А, значит, виноват.

На очереди садистичная доброта, унижающее сочувствие, беспощадное всепрощение, наглая вежливость, оскорбительный ум и прочее.

Складываете два любых слова и получаете или идею для стартапа (smart cloud) или обвинение (cloudy smartness).

Comments

[kotvsopagah]

Надо полагать, что расходы на нагрев электричеством выше расходов "мазутом" более чем на 30 процентов?

[vit_r]

Есть хорошее правило: Если вместо абсолютных значений начинают говорить о процентах, вас пытаются обмануть.

Про мазут там речи не шло. Гадкое климаторазрушающее отопление уничтожили как врага человечества. Сравнивался только нагрев электричеством так или этак.

Про остальное напишу потом.

[villain_jack]

ничего из подсунутого не подписывать и валить до прихода зимы.

[vit_r]

Понятно, что не подписывать. Но это же Швейцария.

-- Я Вам показала, где находится главный рубильник. Я Вам показала это при двух свидетелях.

Это после того, что я ей сказал, что читать умею и слово "Hauptschalter" понимаю и без её разъяснений.

При этом, описать этот разговор она может как захочет. "При двух свидетелях".

И, похоже, она сама не понимает, что за дичь несёт.

[straktor]

> распахнула попочку и сунула под нос

смешная опечатка

ну может ей так і сказалі, что с жільца надо стрясті подпісь об інформірованіі, как обращаться с внедряемым
она проинформировала как -- вкл и выкл, остальное чо


с другой стороны, вы тоже можете в ответ на наезд сказать, что почувствовали угрозу, небезопасность и дискомфорт от тона архитекторки, испытали стресс и впали в ужас

[vit_r]

Судя по тому, что она не смогла назвать ни одной цифры, она из зелёных.

От того бреда, что я услышал, испытать можно не только ужас, но и депрессию.

[2e8]

Про искусственного болвана все правильно. У нас в компании это все уже обнаружили, пришли в ужас, запретили использование и решили запустить своего, внутрикорпоративного, искусственного болвана (благо компания большая и вся из себя высокотехнологичная, так-что потянут). Будет-ли от него польза - вопрос дискуссионный, а вот вреда будет таки сильно меньше, чем от чужого.

[vit_r]

Ещё когда это называлось knowledge base, люди в теме выяснили, что запихать информацию в компьютер несложно, сложно поддерживать её актуальной и удалять ошибки.

Сильно сомнительна полезность хранения в таком виде чего-то более сложного чем стабильная базовая информация.

[zyxman]

А кто вам запрещает на своем железе в изолированной машине запустить опенсорц модель?

[anonim_legion]

Получается, что клиентов к ней пускать нельзя.

[vit_r]

Да и сотрудников подпускать к такой штуке нельзя тоже. Никто же не гарантирует, что уборщица не получит доступ к проекту контракта с американским партнёром прямо со стола генерального директора.

Придётся всем давать высшую форму доступа.

[zyxman]

Не вижу проблемы. Я на своем рабочем тазике спокойно ллама.срр пускаю (набирать латыницей если чо).

Для каждой задачи отдельный, ФИЗИЧЕСКИ ИЗОЛИРОВАННЫЙ компьютер, не так давно было нормой для писишек, опять таки. И бухгалтерские документы на дискете носили не так давно.

Ну да, до гпт-4 оно не дотягивает, но мне хватает, был бы я бизнесом, нашел бы и машинку и модель уровня гпт-4 для локального пользования.

[vit_r]

Это-то тут при чём? Вопрос в том, какую информацию пользователь имеет право получить согласно правам доступа.

[juan_gandhi]

О да. С болванами очень интересно. По идее, всего болвана нужно держать под замком, с доступом. Если болван имеет доступ к данным, то он становится хранителем данных. Ваши все эти GDPR вовремя были впендюрены. Они ж должны помогать от болтливых болванов? Единственно что верить болванам нет никакого смысла. Они несут что-то похожее на то, что уже другие сказали.

[vit_r]

В том-то и дело, что несут не информацию, а что-то похожее на информацию, свободно комбинируя несовместимое.

Техзадание было не в том, чтобы сообщал что-то нужное, а чтобы гнал пургу в любом случае, даже когда нет ответа.

Насчёт же GDPR и прочих запретов внедрители будут узнавать, когда уже поздно и пришёл привет от контролирующих органов.

[juan_gandhi]

Я так понимаю, что для нынешнего, необычного поколения людей в офисах разницы никакой нет между тем, что несет начальство, бот, или калькулятор. Им пофиг, им не за это деньги платят.

В принципе, логично. Естественного отбора нет, есть неестественный. Что, наверно, приведет к катастрофе, но когда? И надо ли нам это?

[vit_r]

Ну, в этом доме катастрофа, можно сказать, произошла.

Другое дело, в Швейцарии тепло, так что мы не замёрзнем. Просто придётся уже заняться утеплением и купить электрические нагреватели в каждую комнату.

[zyxman]

В поиске болванов от которых случаются утечки данных, критически важно не выйти на самого себя, тк смешно становится.

трид с этого места, мне всё сказал, извините.
https://vit-r.dreamwidth.org/1199233.html?thread=11373697#cmt11373697

[juan_gandhi]

А кстати, куда девается потом эта теплая подземная вода? Не в водопровод же, с химией могут быть проблемы. (Я раз хотел попробовать воду с глубины 2000 метров, да меня геологи схватили за руку).

[vit_r]

Там же контур. По одной трубе вверх, по другой трубе вниз.

[juan_gandhi]

Ах вот как. Об землю нагревается. А какая глубина?

[(Anonymous)]

После повсеместного внедрения "облаков" это уже меньшее из зол, снявши голову по волосам не плачут.

Я вполне могу представить себе какого-нибудь идиота-безопасника, который будет с боем требовать допуски к текстовым моделям, при том что вся информация фирмы уже хранится непонятно в каком "облаке", неизвестно где физически расположенном и с минимумом ответственности за слив (а сливы эти уже теперь еженедельные и чую к концу десятилетия станут ежедневными).

Безнадежно. Либо компания держит данные у себя, либо компания отдает данные третьим лицам и можно забыть про безопасность. Облака уже понавнедряли везде, поэтому дополнительно подарить часть данных электронной говорилке сильно ситуацию не изменит.

[vit_r]

Ха! Одно дело положить в облако данные и в случае чего дать проверяющим стопку сертификатов о том, что всё очень-очень безопасно, а совсем другое не иметь бумажки, чтобы ответить чиновнику по защите приватных данных в случае наезда.

Но тут вопрос, даже, не в выходе наружу, а в том, что внутри не удастся организовать надёжные уровни доступа.

[nicka_startcev]

>унижающее сочувствие

а с этим что не так? унижение, мимикрирующее под сочувствие, вполне бывает.
у человека проблема - а мы формально сочувствуя фактически выставляем его идиотом/садистом/итп.

[vit_r]

Всё так. Я же написал, что любой душевный порыв можно превратить в обвинение.