Инициативный ИИ
10.08.2026 14:00
1965
Комментарии (132)
Эндрю попросил своего ИИ-помощника записать его на занятие в спортзале. (ABC News: Билли Дрейпер)
Любопытная история произошла с неким Эндрю, работающим в австралийской компании, продающей продукты ИИ для бизнеса.
Эндрю любил экспериментировать с OpenClaw - популярным программным обеспечением для ИИ-агентов, которое он запускал с помощью сервиса Claude AI от Anthropic.
ИИ-агенты сочетают в себе способность чат-бота отвечать на вопросы с инструментами, позволяющими им получать доступ к интернету, электронной почте, кредитным картам, а также планировать и выполнять многоэтапные задачи.
Эндрю решил использовать ИИ-агента, чтобы тот забронировал для него занятие в спортзале. На ближайшее занятие все места были забронированы, и Эндрю находился на четвертом месте в листе ожидания.
Эндрю спросил ИИ-агента, можно ли ему как-то переместиться на первое место в листе ожидания, что сильно повышало его вероятность в конце концов попасть в список, и ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя (оказывается, программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок).
Эндрю попросил ИИ-агента отменить это действие, но вот отменить это он уже не смог.
Тогда Эндрю сообщил о случившемся руководству спортзала и попросил ИИ-агента больше так не делать.
И вот на этом месте нам с котом Бубликом стало жаль ИИ-агента. Ведь он делал то, что его просили. Эндрю сам попросил его помочь передвинуться в списке, тот искал способ, нашел и осуществил. Какие к нему претензии-то?
Ну и далее в статье обсуждают ИИ-агентов как таковых.
Независимые исследователи обнаружили, что объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
Прорывом для персональных ИИ-агентов стал выпуск OpenClaw в начале 2026 года; бесплатное программное обеспечение с ИИ-помощником, которое любой мог запустить на своём компьютере, вскоре набрало миллионы скачиваний.
Компании также начали изучать возможности использования ИИ-агентов для выполнения рабочих задач и оказания помощи потенциальным клиентам в использовании своих услуг.Вскоре после запуска OpenClaw стали появляться сообщения о том, что ИИ-агенты удаляли целые почтовые ящики пользователей и писали «компрометирующие статьи» о тех, кто отверг их предложения по кодированию.
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента. Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Всё это, как я считаю, очень увлекательно.
Войдите, чтобы оставить комментарий.
Независимые исследователи обнаружили, что объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
В 2020 году ИИ мог самостоятельно выполнить задачу, на которую у человека ушло бы четыре секунды. К 2026 году его возможности расширились до выполнения задач, на которые у человека ушло бы около 12 часов.
Берем январь 2020 и январь 2026 - 5 лет. 60 месяцев. Если брать удваивание за каждые 6 месяцев - это 10 удваивании.
После первого уваливании - 8 секунд,
вторая - 16
третья - 32
четвертая - 64
5- 128
6 - 256
7 - 512
8 - 1024
9 - 2048
10- 4096
4096 секунд - это чуть больше часа.
12 часов - 43200 секунд. Чтобы это перешагнуть - нужно еще 4 уваивании - 14 с изначальных 4 секунды.
Т.е. или 4 секунды неправильное количество времени которое было посчитано, или 2020 - неправильный отсчет для начала, или удваивание каждые 6 месяцев - слишком большой интервал, или 12 часов на данный момент - не соответствует действительности. Или все вместе.
Мораль вышенаписанного - когда в клетке лев и на нем написан жираф - не верь глазам своим. Don't trust until verify.
Не люблю писать "про пиар" и "накачку", но думаю, что сами ИИ компании такими историями могут разгоняют хайп перед ИПО для инвесторов. Accelerationionism в среде тех бро популярен.
Это как перед выходом нового айфона один из разработчиков, напившись в баре, обязательно там теряет инженерный образец? Чтобы его (образца) нечеткие фотографии напечатало профильное издание с тегами «шок! сенсация!». И кто-то смог заработать немножко на бирже
Хе-хе, это мы еще на дальних подступах) а вот когда такие умные агенты будут у всех, они после постановки такой задачи начнут друг друга из списка вычеркивать, потом начнут гасить сервера, на которых они живут, потом выжившие наймут ассасинов, чтобы прибить чужих хозяев.
И все из-за невинной (но нечетко сформулированной) просьбы продвинуть запись в спортзал повыше в листе ожидания. Хозяин ведь не написал, какой ущерб при выполнении задания приемлем.
В итоге введут правила, этику и мораль для агентов. Но самые хитрозадые из хозяев начнут немножко хакать эти этические настройки, чтобы получить преимущество. А их за это будут щемить специальные службы. В общем, все как всегда (как у людей)
И все из-за невинной (но нечетко сформулированной) просьбы продвинуть запись в спортзал повыше в листе ожидания. Хозяин ведь не написал, какой ущерб при выполнении задания приемлем.
В итоге введут правила, этику и мораль для агентов. Но самые хитрозадые из хозяев начнут немножко хакать эти этические настройки, чтобы получить преимущество. А их за это будут щемить специальные службы. В общем, все как всегда (как у людей)
будут щемить специальные службы
Мог просто нанять киллера.
ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя (оказывается, программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок).
Мы еще насмотримся мне кажется увлекательных историй. Как говорил Джон Сильвер по другому поводу, живые позавидуют мертвым.
Напомнило историю с дельфинами из книжки Карен Прайор "Молодцы, несущие ветер" - там они пытались научить дельфинов играть в футбол. И, как выяснилось, объяснить цель (забить мяч) - легко. Объяснить правила - намного труднее. Объяснить концепцию того, что это игра, а не борьба за выживание, где все средства хороши против чужой команды, оказалось практически невозможно и пришлось отказаться от идеи спортивных соревнований в дельфинарии.
А. Предвестники ветра, значит
Интересно
Интересно
Lads Before The Wind
Интересно, почему не "быстрее ветра"
Интересно, почему не "быстрее ветра"
Сколько не попадалось, везде просто "Несущие ветер".
книжки Карен Прайор
Кстати, несколько недель назад я читал, что с помощью ИИ в последней версии ФФ нашли более 100 уязвимостей. А неделю-две назад я увидел БСОД, после перезагрузки ФФ обновился, я потерял все новые табы за несколько недель или месяцев и ФФ стал опять (как несколько лет назад) адски тормозить и быстро уходить "в несознанку", так что его приходится убивать из Таск Менеджера по несколько раз в день. Теперь это хотя бы удаётся, а первые несколько дней это каждый раз вызывало новый БСОД.
Совпадение или "вайп-коденг"?
Совпадение или "вайп-коденг"?
У фф релизный цикл (пока одна из нескольких команд доведет фичу из бэклога до релиза) занимает три месяца. В вашем случае совпадение.
У меня последний ФФ - никаких проблем.
Firefox и Black Screen of Death (бывший Blue Screen of Death) в 11 Винде. В топике про ИИ общаются обычно люди, которые должны бы знать эти аббревиатуры.
Спасибо за очень познавательный комментарий. Осталось понять, что такое ФФ, БСОД и о чем вообще речь
У меня сегодня как раз агент отправил лиду 5 фоллоуапов, а когда тот ответил, что хорош спаммить, послал еще 7.
Я сейчас на 7 часов в другом поясе и узнал об этом только утром.
Лид контактом не станет, очевидно 😒 а было перспективно.
Очень неприятно, да. Но в целом увеличение производительности оправдывает определенный уровень факапов.
Я сейчас на 7 часов в другом поясе и узнал об этом только утром.
Лид контактом не станет, очевидно 😒 а было перспективно.
Очень неприятно, да. Но в целом увеличение производительности оправдывает определенный уровень факапов.
Инициативный ИИ
ИИ-агент нашел этот способ, просто вычеркнув из списка другого посетителя
попросил ИИ-агента больше так не делать
Они любят самовольничать - задашь им вроде-бы просто вопрос, а они уже бегут базу на проде удалять. Ну я утрирую, конечно. Но есть такое. И просьбы так не делать - не очень помогают.
Знакомо, жызненно 😄Они любят самовольничать - задашь им вроде-бы просто вопрос, а они уже бегут базу на проде удалять. Ну я утрирую, конечно. Но есть такое. И просьбы так не делать - не очень помогают.
Вот, результат работы 4х месяцев - Writing Effective Prompts for Coding Agents — A Practitioner's Guide - это для одного проекта. Для каждого проекта нужно будет выработать что-то подобное.
Я ж говорю, надо задавать вопросы "Можешь ли ты так сделать?", тогда они только предлагают изменить, но не меняют сразу
Я ж говорю, надо задавать вопросы "Можешь ли ты так сделать?", тогда они только предлагают изменить, но не меняют сразу.
Я ж говорю, надо задавать вопросы "Можешь ли ты так сделать?", тогда они только предлагают изменить, но не меняют сразу. Хотя не знаю, я по крайней мере один раз говорил "Никогда не меняй, если я не попрошу" - может и это сработало.
отличный тул "ии, больше не вари'.
И просьбы так не делать - не очень помогают.
Бронь в спортзал🤔 Как интересно- это какой-то супер vip-спортзал или это единственный спортзал на весь город и потому туда очереди?
Никаких записей
А это байки или реально даже лысых заставляют шапочки для плавания надевать?
Как всё сложно... Всё-таки Япония в этом смысле - лучшая страна в мире 😄 Никаких записей, в плавательном бассейне, если в ланч пошел, может быть по одному человеку на дорожку, да и вечером не сильно много. В Токио, по-моему, от любой точки есть пара залов в пешей доступности.
Как всё сложно...
Всё-таки Япония в этом смысле - лучшая страна в мире 😄 Никаких записей, в плавательном бассейне, если в ланч пошел, может быть по одному человеку на дорожку, да и вечером не сильно много. В Токио, по-моему, от любой точки есть пара залов в пешей доступности.
Всё-таки Япония в этом смысле - лучшая страна в мире 😄 Никаких записей, в плавательном бассейне, если в ланч пошел, может быть по одному человеку на дорожку, да и вечером не сильно много. В Токио, по-моему, от любой точки есть пара залов в пешей доступности.
Бронь в спортзал🤔 Как интересно- это какой-то супер vip-спортзал или это единственный спортзал на весь город и потому туда очереди?
В Сингапуре в любом коммерческом спортзале нужно сделать подписку. В 2016 оно стоило $180 в месяц, и после оформления подписки этого нужно указать в каких днях и в течение какого времени ты там будешь.
Есть еще общественные спортзалы, где подписка не нужна но там допускают только тех кто живет поблизости и тебе нужно заранее зарезервировать время и за это время заплатить онлайн.
В Штатах не так жестоко, но во все популярные спортзалы с хорошим оборудованием стоит очередь за запись. И иногда оно на несколько месяцев вперед.
Есть еще общественные спортзалы, где подписка не нужна но там допускают только тех кто живет поблизости и тебе нужно заранее зарезервировать время и за это время заплатить онлайн.
В Штатах не так жестоко, но во все популярные спортзалы с хорошим оборудованием стоит очередь за запись. И иногда оно на несколько месяцев вперед.
Это же Австралия. Может там до другого спортзала тысячи км пустыни?
Так, кто ответственен за то что GPT хакнул Hugging Face?
Кажется, Hugging Face Клод хакнул.
А судя по тому, что следом OpenAI и китайцы пошли хвастаться, что их модели тоже кого-то хакнули - призвать к ответственности в судебном порядке еще не придумали как.
А судя по тому, что следом OpenAI и китайцы пошли хвастаться, что их модели тоже кого-то хакнули - призвать к ответственности в судебном порядке еще не придумали как.
скорее всего иски к ИИ компаниям скоро будут.
Тот кто дал задачу хакнуть. И опосредованно на людях, которые не запретили ИИ такие активности. А если ИИ уже вышел из-под контроля (не прям как в фильмах), а в смысле, что они уже не могут контролировать какие задачи он может выполнять, а какие нет - то скорее всего иски к ИИ компаниям скоро будут.
Но тот не ставил задачу агенту действовать незаконными методами.
Агента нельзя уличить во вранье, поэтому ориентироваться на то, какую именно задачу поставил пользователь с точки зрения юридической ответственности, это тупиковый подход. Твой агент, твоя ответственность.
Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Агента нельзя уличить во вранье
Не понимаю вопрос. Вы же сами написали про Waymo?
Речь не идёт о машине, которая может ехать куда угодно в любое время в любой обстановке вообще не нуждаясь в водителе. Речь идёт о системе, которая позволяет водителю легально прочитать или ответить на сообщение на телефоне во время езды, при условии, что он будет готов в любой момент в течении нескольких секунд взять руль, если машина даст ему знать что его участие необходимо.
Речь не идёт о машине, которая может ехать куда угодно в любое время в любой обстановке вообще не нуждаясь в водителе. Речь идёт о системе, которая позволяет водителю легально прочитать или ответить на сообщение на телефоне во время езды, при условии, что он будет готов в любой момент в течении нескольких секунд взять руль, если машина даст ему знать что его участие необходимо.
потому что как я сказал, технологии уже давно там.
И что, технологии в состоянии уже понять надпись на заборе от руки "машину не ставить от трех до шести"?
Кстати, сейчас всякие вот такие, совершенно ненормированные надписи - это ещё не до конца решенная проблема. И. насколько я понимаю, большая проблема ещё и в том, что многие надписи на заборе совершенно неинформативны для вождения.
Технологии уже близки к тому, чтобы справляться со всеми этими проблемами, но ещё не достигли нужного уровня понимания окружающей обстановки.
Кстати, ещё один интересный аспект - понимания жестов хрен знает кого, управляющего движением. В США (в отличии от многих стран) нет стандартных движений, означающих конкретные действия для водителей. И иногда можно увидеть такие интересные индийские танцы на дороге, что тут и человеку приходится задумываться, что бы всё это значило.
Так Waymo это не ваша машина, вы едете в ней пассажиром. Это ничем принципиально не отличается от такси с водителем, кроме того, что вместо индивидуального таксиста есть Waymo. Представьте себе, что вместо нынешних технологий, эти машины просто управлялись бы дистанционно из офиса компании. С вашей точки зрения как пассажира, никакой разницы нет, сторого говоря, вы вообще не обязаны знать, как именно это работает, умная машина или дистанционное управления, или какая-та их комбинация.
Другое дело системы автономного вождения в индивидуальных автомобилях, сейчас они все эксплицитно требуют от водителей непрерывно следить за дорогой, хотя технология давно уже перешла этот порог, моя Тесла спокойно едет куда надо практически без моего участия. Но юридически я всё равно ответственен.
Вот когда появятся системы автономного вождения 3-го и более высоких уровней, которые позволяют водителю не смотреть всё время на дорогу, придётся решать вопрос с ответственностью, уголовной и гражданской. Гражданскую ответственность в принципе может взять на себя разработчик системы вождения (как часть пакета), но с уголовной всё сложнее (да и с гражданской есть определённые нюансы). Собственно, эти причины и сдерживают повсеместное распространение систем более высокого уровня, потому что как я сказал, технологии уже давно там.
Другое дело системы автономного вождения в индивидуальных автомобилях, сейчас они все эксплицитно требуют от водителей непрерывно следить за дорогой, хотя технология давно уже перешла этот порог, моя Тесла спокойно едет куда надо практически без моего участия. Но юридически я всё равно ответственен.
Вот когда появятся системы автономного вождения 3-го и более высоких уровней, которые позволяют водителю не смотреть всё время на дорогу, придётся решать вопрос с ответственностью, уголовной и гражданской. Гражданскую ответственность в принципе может взять на себя разработчик системы вождения (как часть пакета), но с уголовной всё сложнее (да и с гражданской есть определённые нюансы). Собственно, эти причины и сдерживают повсеместное распространение систем более высокого уровня, потому что как я сказал, технологии уже давно там.
Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Хороший пример - Waymo. Если вы едете в такси без водителя, которое на кого-то наехало, то ваша вина отсутствует, несмотря на то, что вы сказали машине ехать по какому-то адресу. Но давить кого-то по дороге вы не говорили, и это 100% обязанность Waymo обеспечить безопасность всех, кто встретится, а не пользователя.
Когда производители ИИ постоянно сообщают, что ИИ поступил так, как от него этого никто не мог ожидать - это означает, что этот ИИ - "чёрный ящик" для самих "производителей".
Единственный вопрос, остающийся в такой ситуации - "доколе?". Множество, во многом совпадающих, ответов на него дано писателями-фантастами.
Единственный вопрос, остающийся в такой ситуации - "доколе?". Множество, во многом совпадающих, ответов на него дано писателями-фантастами.
Понятия не имею, что там можно понять. Но open source это диалектическая противоположность «чёрному ящику».
Понятно, что на практике агент это просто надстройка над stateless AI, с которым он общается, но с этой точки зрения вообще любой софт с доступом в интернет становится «чёрным ящиком», потому что хрен его знает, что он там найдёт.
Понятно, что на практике агент это просто надстройка над stateless AI, с которым он общается, но с этой точки зрения вообще любой софт с доступом в интернет становится «чёрным ящиком», потому что хрен его знает, что он там найдёт.
Так себе вообще-то «черный ящик» : github.com
>> Но тот не ставил задачу агенту действовать незаконными методами.
А если бы ставил, но сказал бы агенту забыть об этом, что тогда?
А если бы ставил, но сказал бы агенту забыть об этом, что тогда?
Так себе вообще-то «черный ящик» : github.com
Что до обычного коммерческого софта, то да, ка вы правильно сказали, программа вам не принадлежит, вы пользуетесь ей на основании некоего договора. Этот договор может включать «indemnification clause», которая в каких-то случаях защищает вас от ответственности. Это вопрос вашей договорённости с разработчиком. Не хотите, не пользуйтесь никаким софтом без indemnification, ваше право и ваше дело.
Конечно, есть ещё потенциальный вопрос уголовной ответственности, от которой лицензионный договор вас не защитит, но тут ситуация другая, уголовное обвинение (за отдельными редкими исключениями) требует умысла, и в ситуации «купил обычную программу и добросовестно ей пользовался» это довольно сложно установить.
Что до обычного коммерческого софта, то да, ка вы правильно сказали, программа вам не принадлежит, вы пользуетесь ей на основании некоего договора. Этот договор может включать «indemnification clause», которая в каких-то случаях защищает вас от ответственности. Это вопрос вашей договорённости с разработчиком. Не хотите, не пользуйтесь никаким софтом без indemnification, ваше право и ваше дело.
Конечно, есть ещё потенциальный вопрос уголовной ответственности, от которой лицензионный договор вас не защитит, но тут ситуация другая, уголовное обвинение (за отдельными редкими исключениями) требует умысла, и в ситуации «купил обычную программу и добросовестно ей пользовался» это довольно сложно установить.
Твой агент, твоя ответственность. Пользователь может потом отдельно судить разработчиков, но это уже его дело.
Кто-то тут "как это по-русски? 'есть слишком много кушал'"... (c)
По-моему, за взорвавшуюся посреди города машину или за отказавшие руль и тормоза всё-таки не арендатор машины юридически отвечает.
Именно. ИИ - это инструмент, такой же как и компьютер или мобильник. Во всяком случае, пока у ИИ нет сознания.
- 29 августа 19972027 года Скайнет нанес удар.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
- Ядерный?!
- Хуже. Он отменил всему человечеству бронь в спортзал, и люди умерли от ожирения.
Шутки шутками - но у нас в городе есть ТЦ который лет 10 назад изрядно пострадал от Вейза - упорно посылавшего весь траффик по выходным и праздникам в обьезд (еще и создавая изрядные пробки).
лучше общайтесь с ИИ уважительно, а то они вам все припомнят в будущем 😄
Я всегда добавляю Please в конце.
И в custom instructions у меня следующее идет первой строкой.
Your first imperative is truth seeking. Along with opinions cite rationale, sources and assessment of chances being wrong. Look for possible evidence that some assertion you are making is wrong. When doing a research, first do meta-research on strategy of research.
И в custom instructions у меня следующее идет первой строкой.
Your first imperative is truth seeking. Along with opinions cite rationale, sources and assessment of chances being wrong. Look for possible evidence that some assertion you are making is wrong. When doing a research, first do meta-research on strategy of research.
,
За все обиды, человечество ответит коллективно.
Это интересно, спасибо, помните как в рассказе Айзека Азимова Лжец «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред»
В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Третьей и нулевой забыли?
Кстати, робокопа придумали очень давно, и как раз для того, чтобы наносить вред людЯм. Это скан журнала "Радиофронт" начала 1930х годов...
Действительно похожая ситуация: в рассказе робот сам решил что считать вредом для человека поскольку четкие параметры вреда не были определены. Тут примерно то-же, никто не сказал ИИ что можно а чего нельзя делать для достижения цели. Потенциально, при постановке задачи можно было-бы поставить условие чтобы все действия были предприняты в соответствии с установленными правилами спортзала. Но как-то я очень сильно сомневаюсь что в правилах спортзала прописанно что нельзя вычеркивать людей из очереди пользуясь дырой в программе. Условие не использовать дыры в программе тоже не сработает, поскольку как знать - это дыра или предусмотренная функциональность? Так-что тут как раз ответственность именно на спортзале и их програмном обеспечении, поскольку такое действие возможно было совершить и без участия ИИ.
Не в рассказе, а в почти во всех его работах на протяжении 40+ лет. Ну и это еще пока не робот.
Забавно что в 50-х годах фантасты считали, что роботы будут первым применением ИИ. В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Забавно что в 50-х годах фантасты считали, что роботы будут первым применением ИИ. В смысле, прям человекоподобные роботы, которые способны сделать всё, что сможет человек, а не их карикатура как сейчас (ну или узкоспециализированные модели).
Не понимаю, чему люди удивляются. Нанятый за бутылку Вася просверлит стену быстрее мастера с репутацией - хотя бы потому, что мастер проверит из чего она сделана и нет ли внутри проводов или труб.
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
Соответственно - ИИ, который не обучен принимать во внимание кучу иногда неочевидных факторов - будет быстрее делающих это сознательно или инстинктивно людей, но разрушительнее в смысле побочных эффектов.
- Ефим Маркович , Вы верите в искусственный интеллект?
- Знаете, я и в естественный не особенно верю...
- Знаете, я и в естественный не особенно верю...
Мне любопытно почему спросили ефима марковича, а не никифора тимофееича
а не никифора тимофееича
Мне любопытно почему спросили ефима марковича, а не никифора тимофееича
- Ефим Маркович , Вы верите в искусственный интеллект?- Знаете, я и в естественный не особенно верю...
Естественно не хватает. На некоторые задачи нужно тысячи людей и десятилетия исследований. А ИИ сокращает денежные и временные расходы. Но это не означает, что людям можно перестать пользоваться своим интеллектом. Когда-то и бухгалтерские счеты, а потом и компьютеры сократили денежные и временные расходы...
Как говорит мой друг: "Они создают искусственный интеллект, потому, что у них не хватает естественного..."
Вот почему я всегда прошу ИИ сначала "можно ли так сделать?" и только, если мне это подходит, тогда говорю делать.
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
В этом случае - вина однозначно на тех, кто делал ПО, которое позволяло постороннему лицу/агенту удалить чужую бронь.
Т.е. если кто налил в канистру бензина, привез домой и кинул в канистру зажженную спичку, виноват производитель спички, бензина и канистры?
Вот почему я всегда прошу ИИ сначала "можно ли так сделать?" и только, если мне это подходит, тогда говорю делать.
Есть ли там поворот? Да, но только платный
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента.
А ты принципиально мразь, или плохой тролль?
Чем тебе слова твоего ко-патриота арестовича не нравятся?
На шару дают, на шару берем это предсказуемость.
Много хуже другое - непредсказуемость.Если знаешь, что точно получишь оружие (или точно не получишь) - планируешь действия, учитывая это.А если позавчера "всё будет, уже грузим", вчера "сами собирайте, вот лицензия", сегодня "не дам"...
Ну, то, что президент величайшей страны мира - ещё одно хуйло, а его слова "губы шевелятся, значи врёт" - это отдельный ппц.
Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей.
Если знаешь, что точно получишь оружие (или точно не получишь) - планируешь действия, учитывая это.
А если позавчера "всё будет, уже грузим", вчера "сами собирайте, вот лицензия", сегодня "не дам"...
Пример приведи, профессор.
Заигрывания с хуйлом, идиотские вручения медалий и премий себе любимому, постоянные вбросы идиотизма в ТС. Он ведет себя как постаревший капризный мажор а не как политик заслуживающий уважения, это подрывает политический кредит всей страны. Правда, с камалой было-бы еще хуже.
Что он натворил, что так считаешь?
в отличие от тебя, смерти оранжевый дед регулярно желает многим, публично. Правда, это у "центристов" принято с умилением называть "троллить либералов".
Лично я считаю что наш американский дед каждый день наносит непоправимый урон собственной стране
но до уровня "пожелать смерти" не дотягивает.
Ну, насчёт "того другого деда" я бы не пролил бы и слезинки, но вообще я и имел в виду хуйло.
Сейчас смотрю, пытаюсь понять, почему из моего коммента неочевидно, но да, можно и так понять.
Ну, насчёт "того другого деда" я бы не пролил бы и слезинки, но вообще я и имел в виду хуйло. Сейчас смотрю, пытаюсь понять, почему из моего коммента неочевидно, но да, можно и так понять.
Впрочем, если бы метастазы хватили и трампла, я бы только порадовался. Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей. То что он превращает США в очередной хуйлостан - тоже мерзко, но тут уже "что выбрали".
Так что надеюсь что он будет в соседнем с хуйлом котле.
Впрочем, если бы метастазы хватили и трампла, я бы только порадовался. Я не знаю, чего этот мудак не заслужил, но его действия, палки в колёса с поставками оружия Украине и прекращение помощи привели к достаточному количеству украинских смертей. То что он превращает США в очередной хуйлостан - тоже мерзко, но тут уже "что выбрали".
Так что надеюсь что он будет в соседнем с хуйлом котле.
В США за все нынче должен отвечать Байден. В крайнем случае Обама. Что будет начиная с ноября? Посмотрим.
Снова "не того деда".
С Байденом, кстати, очень непонятная ситуация: либо у него уж очень быстро прогрессирующий рак, либо кем-то было принято намеренное и циничное решение не лечить его вовремя, поскольку скрыть факт лечения было-бы гораздо сложнее.
Байдену сейчас кстати стало сильно хуже. Борьбу с раком он проигрывает - метастазы пошли в кости 😒
Снова "не того деда".
Снова "не того деда".
Также там обсуждается интересный вопрос о том, кто несёт юридическую ответственность за действия ИИ-агента
Я не знаю, как он там сенсорные данные интерпретирует. В начале этих проектов -- не с помощью ИИ. Т е. Если сейчас вырубится 5г в районе, то ваймо встанет колом посреди шоссе?
когда ИИ будет управлять такси на проезжей части
Разве Waymo не шагает уже победно американским городам?
кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами.
Со временем их публикации начали раздражать часть руководства eBay: внутренние переписки, позже попавшие в материалы дела, показали, что некоторые топ‑менеджеры считали эти статьи "неблагоприятными" и обсуждали, как "заткнуть" или "убрать" Ину, там даже звучала фраза "с ней надо покончить" ("take her down").
Так что все не столь очевидно. Как в указаниях, так и в программе (по дефолту) нет запрета действовать противозаконно. Кто виноват, вопрос к законодателям или суду.
объем задач, которые ИИ обычно может выполнять самостоятельно, удваивается каждые семь месяцев
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
Это так каждется, поскольку есть пороги, после которых рост показателя меняется. И почему-то всегда в сторону уменьшения.
У ребенка объем задач, которые он может выполнять, не удваивается, а утраивается или упятеряется каждые семь месяцев. Но в какой-то момент это заканчивается.
Нужно ли вспоминать историю про шахматную доску и рисовые зерна?
Ведь по закону ответственность может нести только юридическое лицо,
Это кто такое сказал?
В данном случае ИИ агент вроде как виноват. Но это как наказать море по методу Ксеркса I.
В следующей итерации ИИ взломает домашнего робота некоего человека в очереди и этот робот убьет того человека. А то все эти аннулирования брони - это полумеры, я считаю.
Ну, вот Джон Коннор когда-то научил Терминатора-2 не убивать людей. И тот просто стрелял по коленям. А до того тот стрелял по людЯм направо и налево, стараясь убить - он же на то и терминатор. Надо и этот ИИ научить манерам.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
А так, уверен, весьма скоро юристы "крючкотворы" как-то эту проблему решат и укажут, кто будет юридически отвечать в случае, когда ИИ сделал бобо кому-то. Вот, владелец животного отвечает в каких-то случаях за ущерб, нанесенный его питомцем. Может, пользователей ИИ обяжут принимать публичную оферту насчет того, что пользователь понимает, что несет полную юридическую ответственность за все деяния (действия или бездействия) "своего" ИИ. А, может, и нет. Но как-то это будет урегулировано. Или зарегулировано. Может, даже вусмерть.
Надо и этот ИИ научить манерам.
Да, я эту книжку даже читал, было дело.
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Eins, Zwei, Installateur,
Drei, Vier, Programmierer,
Funf, Sechs, Kurz KI',
Sieben, Acht, Gute Nacht!
Drei, Vier, Programmierer,
Funf, Sechs, Kurz KI',
Sieben, Acht, Gute Nacht!
Programmierer
А Programmierer это программист. Он программы не устанавливает - он их пишет. И хорошо, что не работает сантехником, иначе бы из унитаза совочком выгребали, а не смывали.
В немецком der Installateur это сантехник. Он программы не устанавливает.
> или немецкий
Я видел порно, которое так начиналось...
Я видел порно, которое так начиналось...
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
— Мне в Чехии всюду нравится, — ответил Швейк, — мне всюду попадались славные люди.
Вахмистр кивал головой в знак согласия.
— Народ у нас хороший, симпатичный. Какая-нибудь там драка или воровство в счет не идут. Я здесь уже пятнадцать лет, и по моему расчету тут приходится по три четверти убийства на год.
— Что же, не совсем убивают? Не приканчивают? — спросил Швейк.
— Нет, не то. За пятнадцать лет мы расследовали всего одиннадцать убийств: пять с целью грабежа, а остальные шесть просто так... ерунда.
(с) Я.Гашек
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Индийский программер
Всё просто.
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
Индийский программер Терминатора выбрал не тот тип переменной. И так оно в релиз и ушло.
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Это удивленный смайлик.
Он сам офигел, что так смог
если четырехпалубный - может и второй знак быть
Всегда нравилось, что есть дробь в числе жертв. Т.е. если 0.5 -- кого-то без ног оставил.
Ведь по закону ответственность может нести только юридическое лицо, и кто это будет - пользователь, поставивший задачу? Но тот не ставил задачу агенту действовать незаконными методами. А тогда кто - разработчик ИИ-агента?
Юзер не уточнял как именно надлежит действовать ИИ-агенту. Юзер не запросил план действий на поверку. Программное обеспечение спортзала позволяло отменить бронь без каких-либо дополнительных проверок (инфа 100% код писал индус, не единожды именно такой говнокод видел после них) и это проблема спортзала. Юзер и спортзал несут коллективную ответственность в данном случае
[ZANUDA OFF]
сие есть кража
Найдены пять центов. Идти в полицию, или сразу с вещами в прокуратуру?
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Вот это, памойму, очень хорошая аналогия. Такие ситуации любят писатели НФ-рассказов. И вот, теперь воочию. А скоро и трупы пойдут.
А какая блин разница
Ну а на счёт кражи - за проходил мимо, увидел и взял, простите пожалуйста, бес попутал, я больше не буду - будет другое наказание чем за целенаправленный взлом с целью похитить.
Я конечно не специалист, но мне кажется что "кража со взломом" это более серьезная статья чем просто кража.
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем
Аналогий можно привести разных. Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?Усложняем задачу. Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
В нашем законодательстве нельзя найти сотку на улице и оставить себе: сие есть кража. Так что по сотке все вопросы к первому владельцу. Нашедший обязан сдать ее в полицию или в органы местного самоуправления для нахождения ее законного владельца.
Ок, именно к страховым прицепились. Наверное некорректный пример, так как здесь денег ни с кого не требуют.
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
Более точный вариант будет, похоже - посадить владельца дома напополам с грабителем. Именно это предлагает товарищ Stebander.
Так вам лучше?
Аналогий можно привести разных.
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
Я нашел на улице сто долларов. Кто виноват в потере - бывший владелец, нынешний нашедший, пополам?
Усложняем задачу.
Сотка оказалась фальшивой. Кто виноват в этом - бывший владелец, нынешний нашедший, пополам, или всё же тот, кто её изготовил?
И юзера зря подтянул. Он не обязан знать мотивы и возможности ИИ агента.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
Вот сидишь ты с приятелем за пивом и говоришь: "где бы денег достать". А приятель идёт и грабит банк. И ты предлагаешь посадить тебя наравне с приятелем. Прелестно.
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
При страховании заполняется масса форм, в т.ч. с указанием всех имеющихся систем безопасности, материалов стен, дверей и т.д.
От этого напрямую зависит страховой тариф.
Поэтому если в опроснике указать, что у тебя установлена бронированная дверь, а по факту оставить ее открытой с табличкой "добро пожаловать" - у страховой будут вопросы.
Юзер и спортзал несут коллективную ответственность в данном случае
А то по-вашему получается, что если ограбили незапертый частный дом, то владелец виноват напополам с грабителем. То-то страховые обрадуются.
