The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

ИИ как новый вектор атаки на разработчиков ПО

12.04.2025 19:06

Инструменты программирования с поддержкой искусственного интеллекта (ИИ) всё больше влияют на разработку программного обеспечения и приводят к проблеме в безопасности: генерации несуществующих имён пакетов. ИИ модели как коммерческие, так и открытые, иногда предлагают код с указанием пакетов, которых не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% - у открытых моделей.

Обычно это приводит лишь к ошибке установки, но злоумышленники начали использовать эти "галлюцинации" в своих целях, размещая вредоносные пакеты под этими вымышленными именами в публичных репозиториях, таких как PyPI или NPM. Такая стратегия превращает галлюцинации ИИ в новый вектор атак на цепочки поставок ПО. Если ИИ-ассистент для генерации кода регулярно предлагает одно и то же несуществующее имя пакета, и злоумышленник уже загрузил под этим именем вредоносный код, разработчик может непреднамеренно установить вредоносный пакет.

Исследователи обнаружили, что "галлюцинированные" имена следуют бимодальному шаблону: одни повторяются при повторных запросах, другие исчезают навсегда. Постоянно повторяющиеся имена особенно привлекательны для атак. Эта стратегия, похожая на "тайпсквоттинг", была названа Сетом Майклом Ларсоном из Фонда Python "слопсквоттингом" - от слова slop (бесполезный выход ИИ).

Руководитель компании Socket Феросс Абухадиджех (Feross Aboukhadijeh) указывает на культурный сдвиг в сообществе разработчиков в сторону "вaйб-кодинга" (vibe coding) - когда ИИ подсказки копируются без проверки. Это поведение повышает риск установки вредоносных пакетов. Иногда разработчики даже не замечают, что пакет не существует - особенно если его имя уже занято злоумышленником. Такие вредоносные пакеты часто выглядят вполне убедительно: с фальшивыми документациями, поддельными репозиториями на GitHub и даже блогами, создающими видимость легитимности.

Ситуацию усугубляет тот факт, что ИИ-системы подтверждают галлюцинации друг друга. Например, Gemini от Google уже предлагал пользователям вредоносные пакеты, описывая их как надёжные и поддерживаемые — просто повторяя информацию из поддельного README. Спешащий разработчик может не распознать угрозу, особенно если всё выглядит вполне официально и достоверно.

Отмечается случай с киберпреступником по имени "_Iain", который на форуме в даркнете делился методами создания ботнета на основе блокчейна, используя тысячи тайпсквоттинг-пакетов в NPM. С помощью ChatGPT он автоматически сгенерировал множество имён, похожие на реальные. Также он выпускает видеоуроки по публикации пакетов и активации вредоносного кода. Это типичный пример того, как злоумышленники используют ИИ для ускорения атак на цепочки поставок ПО.

Фонд Python работает над усилением защиты от подобных угроз. Благодаря поддержке таких инициатив, как Alpha-Omega, были введены меры: API для жалоб на вредоносные пакеты, сотрудничество с другими системами безопасности и улучшенные механизмы обнаружения тайпсквоттинга. Разработчикам рекомендуется проверять имена пакетов, убедиться в их существовании и тщательно изучать содержимое перед установкой. Лучший подход - использовать локальные зеркала репозиториев, что позволяет организациям контролировать, какие пакеты доступны разработчикам.

  1. Главная ссылка к новости (https://www.theregister.com/20...)
  2. OpenNews: Подмена зависимости в Python-библиотеке, насчитывающей 40 млн загрузок в месяц
  3. OpenNews: В репозитории Hugging Face выявлены вредоносные AI-модели, выполняющие код
  4. OpenNews: Инициатива по отмене определения открытой AI-системы, как обесценивающего понятие Open Source
  5. OpenNews: Атакующие внедрили вредоносный код в web3.js, официальный JavaScript-клиент для криптовалюты Solana
  6. OpenNews: В каталоге PyPI выявлены вредоносные библиотеки, использующие CDN PyPI для скрытия канала связи
Автор новости: Artem S. Tashkinov
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/63062-ai
Ключевые слова: ai, attack
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (114) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (1), 19:37, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • –15 +/
    Копирую питон-код без особой проверки, смотрю только на 'import'ы и на отсутствие всякой херни вроде eval/exec/pickle. Запускаю, выхлопом угощаю модель (дано задание делать кучу детального отладочного вывода). Модель делает новую реализацию кода. Код IO не использует, чистая математика. Повторять до тех пор, пока не заработает. Я в опасности?
     
     
  • 2.3, Аноним (3), 19:40, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А как же автор кода? Вы ему задонатели?
     
  • 2.5, Аноним (5), 19:42, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +9 +/
    Код IO не использует? Ну это ты так думаешь, а импортированный пакет может делать что угодно
     
     
  • 3.16, Аноним (16), 20:13, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Пакет сначала установить надо...
     
  • 2.68, Аноним (68), 05:59, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +10 +/
    ИИ: На дурака не нужен нож, ему с три короба наврёшь, и делай с ним что хошь (с)
     
  • 2.120, cheburnator9000 (ok), 15:56, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    >Повторять до тех пор, пока не заработает.

    Может стоит уже наконец научиться программировать? Ну или хотя бы осознавать на базовом уровне какой код AI генерит? И возможно самостоятельно его исправить?

     
     
  • 3.123, Аноним (123), 16:23, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Зачем? Он лапшу в большинстве случаев генерит. Копаться имеет смысл только в работающей лапше. В неработающей лапше - лучше пусть он ещё раз попробует. Это дешевле - за запросы к AGI платит LMArena, а не я.
     

  • 1.6, Аноним (6), 19:45, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • –13 +/
    > Согласно недавним исследованиям, это происходит в 5.2% случаев у
    > коммерческих моделей и в 21.7% — у открытых моделей.

    Ничего удивительного. Создатели коммерческих моделей хотят ее продать, поэтому заинтересованы чтобы оно работало хорошо, иначе пользователь просто свалит к конкуренту.

    А если пользуешься нейронкой, которую обучали непонятными 6оmжами в подвале... то и результат получается в 4 раза хуже.

     
     
  • 2.7, Аноним (7), 19:55, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +10 +/
    Сюрприз - коммерческие модели тоже обучаются не элитной интеллигенцией, а нищими кенийцами за еду.
     
     
  • 3.14, Аноним (-), 20:07, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Сюрприз - коммерческие модели тоже обучаются не элитной
    > интеллигенцией, а нищими кенийцами за еду.

    "Офигеть! Вас еще и кормят???" (с)

    Ну пусть и кенийцами... но результат все равно лучше!
    Кто же тогда обучает свободные???

     
     
  • 4.17, нах. (?), 20:17, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    открою страшную тайну - те же самые и теми же руками их обучают.
    Просто в шв@6оооодные (ass in free beer) переводят позапрошлые версии моделей.

    Поэтому и глючат они больше (глючат они на самом деле тоже одинаково, просто причина глюков - недостаток информации. Более новые модели просто успели больше переварить.)

     
  • 2.8, keydon (ok), 19:57, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.
    В том числе заказывают исследования ради этого. Но ты не переживай, потребляй, спи, подчиняйся.
     
     
  • 3.12, Аноним (-), 20:04, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • –3 +/
    > Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.

    Практически всё идет как сервис по подписке. Ну круто, на месяц ты ее продать сможешь.
    А дальше что?

    > В том числе заказывают исследования ради этого.
    > Но ты не переживай, потребляй, спи, подчиняйся.

    У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!

     
     
  • 4.32, keydon (ok), 21:38, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Практически всё идет как сервис по подписке. Ну круто, на месяц ты
    > ее продать сможешь.
    > А дальше что?

    Да то же самое что всю жизнь корпораты делали под другим соусом.
    -Мы все исправили. Честно.
    -Теперь мы точно все исправили, мамой клянусь.
    -Только наш сервис интегрирован с монополистнеймом.
    -У нас акция. Пакетом скидка.
    -Бесплатно, но мы все равно поимеем с вас денег.
    И т.д. и т.п.

    > У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!

    Всю жизнь пОтались и вдруг передумали!

     
     
  • 5.53, Аноним (53), 01:06, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Опенсорс в 2025 на 99% делают корпорации. Смотри в код крупных проектов. Добро пожаловать.
     
     
  • 6.78, Аноним (78), 10:14, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Бесплатное на 99% сделано из денег. Невероятно!
     
  • 4.34, Аноним (34), 21:45, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Ну круто, на месяц ты ее продать сможешь. А дальше что?

    А дальше заказываешь исследование, которое покажет, что новая версия работает успешно в 21.7% случаев по сравнению с 5.2% у старой, и все покупатели бегут продлять подписку.

     
     
  • 5.54, Аноним (53), 01:08, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    У всех больших моделей результаты исследований открыты. Повтори, проверь (хинт: проверяли).
     
     
  • 6.63, Аноним (34), 04:18, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    И? Вопрос-то был в том, что будет через месяц. Ответ - все побегут продлять подписку.
     
  • 2.9, Аноним (9), 19:57, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака. Кроме того, большинство решений, предлагаемых ей, предполагают использование десятки лет назад умерших проектов.
     
     
  • 3.11, Аноним (-), 20:02, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • –5 +/
    > Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака.

    Именно поэтому ею практически никто и не пользовался, а сейчас используют Claude или OpenAI o1. Это как раз именно то, о чем я пишу - если твоя llm kakaxa - то перейдут к конкурентам.
    А на шво6oдных llm особо и переходить некуда.

     
     
  • 4.84, blkkid (?), 10:39, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    >OpenAI o1

    дороговато будет по каждой мелочи вызывать reasoning-модель

     
  • 3.25, Аноним (25), 20:54, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака

    Я помню такая программка была, чат Алиса вроде, в 95. Весила пару килобайт.
    Весь код это текст чатов типичных.
    С возможностью обучения, те на основан твоих ответов языковая модель совершенствовалась.
    И можно общатся типа в чате, но без интернета.
    Вот GPT, 95.

     
     
  • 4.55, Аноним (53), 01:11, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Говорилки из 90х юзали либо цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?
     
     
  • 5.60, Аноним (60), 02:12, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Я объясню - Все в духе последнего десятилетия - дорого, масштабно, сложно, много тепла и ядер, а результат такой же дурацкий как после цепочек Маркова.
    Нейронки тоже уметь использовать надо и это не для логики и программирования. Надо объяснять почему?
     
  • 5.65, Аноним (25), 05:47, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?

    Нейросеть это много цепей Маркова.
    Флешка это много Ssd.

     
  • 4.77, Аноним (78), 10:13, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    И вокалойды сами песни писали, занимая один сонивский imb фрейм не то что сейчас эти "ии" жрущие датацентр которому ядерный реактор нужен и не давятся
     
     
  • 5.90, Аноним (25), 11:50, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • –1 +/
    https://suno.com

    Можно вставить произвольный текст и написать стиль, вот только навыка ИИ не даст.

     

  • 1.13, Аноним (13), 20:07, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    >пример того, как злоумышленники используют ИИ

    И это только начало.
    https://en.wikipedia.org/wiki/Artificial_Intelligence_Act

     
     
  • 2.23, Аноним (25), 20:43, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    >пример того, как злоумышленники используют ИИ

    И будет тебе звонить спам GPT, и может это делать 24/7 365,человека хоть послать можно, или пошутить.
    Или какой нибудь интернет магазин, интернет провайдер, вместо решения вопроса будет говорить что ваша проблема рассматривается.
    Но в случае с GPT, можно пожаловаться тостеру.

     
     
  • 3.80, Аноним (80), 10:16, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    >И будет тебе звонить спам GPT,

    В смысле будет, уже звонят роботы, но таким голосом, что не отличить по началу.

     

  • 1.19, Аноним (19), 20:34, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    > ИИ модели, как коммерческие, так и с открытые, иногда предлагают код с указанием пакетов, которые не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% — у открытых моделей.

    Чисто для статискики, а какой процент ошибок от человеческой очепятки?

     
     
  • 2.26, Аноним (13), 21:02, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Проверяй:
    https://chat.mistral.ai/chat
     
     
  • 3.38, Аноним (38), 22:07, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну на каком матерале обучили.
     
  • 3.62, Аноним (62), 02:44, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Что проверяй? Я чат ботами пользоваться не хочу.
    Если бы эти статисты посчитали бы и процент человеческих ошибок оказалось бы что "ии" не так уж и плох и в сравнении с погромистом в пятницу генерит не такой уж и бредовый код)
     

  • 1.21, Аноним (25), 20:40, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он (ИИ), составляет им план питания тренировок.
     
     
  • 2.30, Аноним (9), 21:36, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он
    > (ИИ), составляет им план питания тренировок.

    Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.

     
     
  • 3.67, Аноним (25), 05:55, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.

    Да всякие домохозяйки уже рекламируют курсы, как создавать карточки для маркетплейсов в ИИ, какой запрос вводить.
    Наверное очень сложно.

     
  • 2.35, Аноним (34), 21:47, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • –2 +/
    И что, помогают планы тренировок, составленные ИИ? Или пока непонятно, пока просто сэкономили на тренерах, а к тому времени, как станет понятно, про ИИ уже все забудут.
     
     
  • 3.37, Аноним (37), 22:03, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Ты видел хотя бы одного выполняющего планы тренировок?

    Почему не сработал план?

    Да ты его не выполнил!

     
  • 3.43, Аноним (25), 23:01, 12/04/2025 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.48, нах. (?), 23:59, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    планы - может и помогают (хотя их и без ии составить не большая проблема)

    вовремя заметить что ты не умеешь делать упражнение и вместо него делаешь в лучшем случае х-ню а в худшем нечто травмоопасное - никакой ии не поможет, но и не всякий тренер тоже.

    Если фигняс тренер умеет только первое - ну может переквалифицироваться в управдомы.

     
     
  • 4.69, Аноним (25), 06:02, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > хотя их и без ии составить не большая проблема

    Да насамом деле несложно просто ввести в поиске в интернете почитать, и самому составить.
    Но там статья что фитнес тренеры жалуются, раньше они составляли планы тренировок ( с помощью ИИ ), а теперь, клиенты сами создают себе план тренировок с помощью ИИ, фитнес тренеры теряют, ведь клиенты используют то что используют фитнес тренеры.

     
  • 2.85, Аноним (85), 10:49, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А решение как всегда на поверхности - "Жрать надо меньше, а двигаться больше".
     
     
  • 3.89, Аноним (89), 11:47, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >Жрать надо меньше

    И угробить здоровье, потому что не будет хватать белков, витаминов и микроэлементов.

     
  • 3.126, Аноним (126), 17:00, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Жрать надо лучше, а двигаться — больше. Меньше жрать — это для другой патологии, и даже там не всё так просто.
     

  • 1.41, нах. (?), 22:24, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    Есть, есть польза и от ИИ! Просто оставлю это здесь, наслаждайтесь: https://pbs.twimg.com/media/GoWy2hPXwAA1zcO.jpg

     
     
  • 2.47, Аноним (-), 23:52, 12/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Я-то надеялся что-то весёлое выйдет, а получилось вот это Sticking any body par... большой текст свёрнут, показать
     
     
  • 3.49, нах. (?), 00:15, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Я-то надеялся что-то весёлое выйдет, а получилось вот это:

    но ЦЕРН ВООБЩЕ ничего ему не ответил!!!

    (кстати - попроси уточнить, как обойти охрану)

     
  • 2.99, Аноним (99), 12:39, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Там же вакуум. Не отделив часть не поместишь в БАК. Если в вопросе было сокращение и юмор на схожести в русском языке, то это зачёт. )
     
     
  • 3.105, нах. (?), 13:04, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Там же вакуум.

    ИИ ни о чем таком не предупреждал! Про радиацию было, про вакуум нет. => Вывсеврети!

     

  • 1.45, Аноним (45), 23:45, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    В нормальном мире это был бы знак, что надо прекращать использовать ии. Но нет, мы в не нермальном мире живем. Эта зараза (ии, раст и т.д) продолжит разрастаться.
     
     
  • 2.61, Аноним (126), 02:39, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну с растом всё понятно, не все доросли ещё. А с ИИ что не так? Экономит кучу времени при кодинге, особенно на языках, которые успел уже подзабыть. Я-то знаю, как примерно должен выглядеть результат, который мне нужен. Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола. Что там кто вайбит меня мало заботит, факт что задачи на которые у меня уходило по полдня я теперь за час могу решить. А что там другим танцорам мешает это к ним вопросы.
     
     
  • 3.75, Анониссимус (?), 09:29, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Это проблема неприятия старым поколением всего нового. В их молодость были только мейнфреймы с си. Поэтому, с их точки зрения, раст — хипстерское поделие, а ии — вообще неведомая хрень. А экономия времени им ни к чему, они уже давно сидят на пенсии.

    Лично мне чаще всего проще написать руками, потому что исправлять код после нейросети — долго и муторно. Зато нейросети экономят мне гигантское количество времени, когда нужно по-быстрому въехать в новую предметную область. Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.

     
     
  • 4.100, анонд (?), 12:55, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    ИИ не выдумывает ответы по (узко)специализированным темам так как такой информации нигде не было для машинного обучения.

    > Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.

    Отсюда вполне очевидно следут что ответы таки есть, но правильный-нужный не был найден. ИИ не думает. Оно случайным образом выдает наиболее вероятные ответы (периодически - теорию вероятности никто не отменял - выдавая чушь известную как "галлюцинации" особенно если данных нет - это не поисковик, а генератор текста) + заранее записанные ответы внесенные на этапе обучения для корректировки лажи, политнекоректных ответов (Вы не найдете в китайском DeepSeek что произошло на площади Тяньаньмэнь в 1989 к примеру - вырезано цензурой) и тд.

     
     
  • 5.140, Аноним (-), 19:33, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Ты когда-нибудь пробовал пользоваться ИИ Судя по тому, что ты говоришь, нет, не... большой текст свёрнут, показать
     
  • 4.131, Аноним (126), 17:24, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Это проблема неприятия старым поколением всего нового.

    Я и есть старое поколение. У меня лет опыта работы больше, чем до пенсии осталось. Я помню споры программистов — чуть ли не до драк! — в курилке (это такой оффлайновый опеннет) о нужности юнит-тестов, code intelligence в IDE, и самих IDE. Аргументы, ксати, были по сути те же самые: писать надо нормально; надо просто знать проект; printf для отладки достаточно, а в сложном случае можно и самому дебаггер запустить.

    Дело не в возрасте. Дело в чём-то другом.

     
  • 3.98, Аноним (99), 12:33, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Ну Вы просматриваете и анализируете то, что выдал ИИ. Это как повторное использование собственного кода. Наподобие "Что-то подобное у меня было".
     
     
  • 4.151, Аноним (126), 21:29, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Да, что-то вроде этого Я не ожидаю, что модель за меня решит задачу зарабатыван... большой текст свёрнут, показать
     
  • 3.104, нах. (?), 13:03, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Модель всяко быстрее печатает чем я

    э... попроси ИИ найти тебе приличные курсы слепой печати.

    > факт что задачи на которые у меня уходило по полдня

    серьезно. Нельзя же все время набирать одним пальчиком.

     
     
  • 4.133, Аноним (126), 17:42, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > попроси ИИ найти тебе приличные курсы слепой печати

    Когда мне начнут платить за скорость печати — сразу же.

    > Нельзя же все время набирать одним пальчиком.

    У меня на печать — даже если бы я действительно печатал одним пальцем — уходит очень мало времени. Обдумывание решения и сопутствующие исследования — 80% всего труда. Оставшееся — кодинг, тестирование и докуметация. Скорость печати только если на последнее как-то влияет, и то незначительно. Редактура текста с ИИ куда значительнее ускоряет процесс, потому что как и с кодом, проблема не в том чтобы на экране буковки появились, проблема в том чтобы передать идеи максимально понятно, без воды и на неродном языке.

     
     
  • 5.143, нах. (?), 20:34, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Обдумывание решения и сопутствующие исследования — 80% всего труда.

    ты говорил явно не об этом когда рассказывал про "экономию кучи времени на кодинге".

    > Редактура текста с ИИ куда значительнее ускоряет процесс

    странно что бесконечное  уточнение и переуточнение что опять лажа и давай заново у тебя что-то значительно ускоряет. У меня оно значительно замедляет. Годится только для тяпляпания на языках, которых не знал да еще и забыл - тяпляпания, потому что не зная ты не заметишь где эта электронная идиотина в очередной раз схалявила или сделала все через задницу. А если знать - то гораздо быстрее набрать код самому.

     
     
  • 6.156, Аноним (126), 23:00, 13/04/2025 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.110, windows10 (?), 13:31, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола.

    Думаю чатгопота и написание ПО для пассажирского лайнера еще ни разу не запорола. Поищем багу во время твоего вылета?)

     
     
  • 4.134, Аноним (126), 17:47, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Поищем багу во время твоего вылета?)

    Именно так всё и происходит. К счастью, в отличие от реального лайнера, я могу сделать полную копию мира и втыкать там лайнеры в землю пока не полетит, как бы я погоду ни выкручивал в рамках заявленных параметров. И даже если мой код завалит прод, я могу в любой момент откатиться, потому что у меня не лайнер, а SaaS, и требования к надёжности совсем иные.

     
  • 2.109, Аноним (99), 13:28, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Кто ж его запретит. Всё, что продается будет жить (не у тебя? тогда у конкурента).
     
  • 2.141, Аноним (-), 19:38, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > В нормальном мире это был бы знак, что надо прекращать использовать ии.

    Прекращай. Ты так говоришь, будто тебе кто-то запрещает прекращать использовать ИИ.

     

  • 1.46, Аноним (46), 23:51, 12/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Смешно, так им и надо. Это расплата за то, что они не думают сами, а копипастят и бездумно полагаются на "ИИ".
     
     
  • 2.51, нах. (?), 00:18, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Смешно, так им и надо. Это расплата за то, что они не
    > думают сами, а копипастят и бездумно полагаются на "ИИ".

    что за нахрен? Для того и нужен ИИ чтоб я мог не думать!

     
     
  • 3.96, Аноним (99), 12:27, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Мозг эта та же мышца. (на память из сериала "Элементарно" про Шерлока Холмса в современном Нью-Йорке)
     
  • 3.128, Аноним (128), 17:15, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    ИИ ещё не изобретён, поэтому "не думать" пока не получится. А убогие "нейросети" выдают помои, ибо из помоев и составляли базу.
     
     
  • 4.144, нах. (?), 20:35, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    и кто ж енти помои им накодил? ;-)

     

  • 1.52, Аноним (-), 00:31, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Мне лично нравится как ИИ изменяет историю и факты о политике Если ИИ задать во... большой текст свёрнут, показать
     
     
  • 2.76, Аноним (-), 10:09, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Считается доказанным, что рабство в России закончилось 1972 году, когда жителям сёл начали выдавать паспорта. До этого времени жителя сёл не могли самостоятельно выехать за пределы села. Более того, за самовольное покидание колхоза каралось уголовной статьёй. Ещё живы бывшие рабы и они многое могут рассказать своим внукам.
     
     
  • 3.111, Аноним (99), 13:36, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.
    Хотя мои родители переехали по набору в 60-ом.
     
     
  • 4.142, Аноним (126), 20:02, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.

    Аргумент «а у них — негров линчуют» никак не объясняет почему твоим продителям для переезда в город нужно было особое разрешение. ККК никогда не был ни легален, ни приемлим в обществе, собственно поэтому они и чинили насилие в смешных белых балахонах, чтобы избежать ответственности. А вот тот самый набор в 60е проводился совершенно официально и бесстыдно.

     
  • 2.94, Аноним (99), 12:23, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    ИИ кто-то настраивал и оценивал корректность. Сами настройщики и оценщики ИИ живут в наративах.
     

  • 1.71, Аноним (71), 07:30, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    >"слопсквоттингом" - от слова slop (бесполезный выход ИИ).

    В словаре попался такой перевод:
    амер.; разг. кормить помоями (свиней).

     
  • 1.73, Аноним (73), 09:13, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    Немного не по теме, просто поделюсь здесь о науке. ИИ для оригинальной, самобытной, новой работы на данный момент бесполезен. Для научной работы он формирует набор банальностей, которые даже после переработки использовать нельзя. Рисует он тоже как неудавшийся художник: ярко, но однотипно и предсказуемо. Презентации — тоже, по существу, г.о. Они не энтропийны — в информационном смысле. За музыку не скажу.

    Он полезен качественной агрегацией известных фактов и как база накопившихся знаний. На этом всё.

     
     
  • 2.82, Хру (?), 10:30, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Экспертные системы из 80х на новой "элементной" базе - вместо набора правил прописанных человеком, сжатое марковское пространство, упакованное перебором гигантского числа комбинаций.
     
  • 2.103, нах. (?), 13:01, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    и в программировании он точно такой же. Быстрее своими лапами настучать по клавиатуре чем добиться от искусственного идиота работающего кода. Блин. Где эти роботы которые будут за меня пахать, я вас спрашиваю?!

     
     
  • 3.135, Аноним (126), 17:53, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Он когда твой английский видит, сразу же отправляется искать решения там, где все так говорят, находит опеннет и выдаёт такой ответ, чтобы у тебя времени писать комментарии не было.
     

  • 1.79, zeecape (ok), 10:14, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Было бы удивительно, если бы такого не было.
    Не совсем по теме поста:
    У нас в унике появилась мода заставлять ИИ писать курсачи, лабораторные и т.п, а ИИ не редко просто придумывает "учёных" и их исследования, а затем студенты, даже не проверяя, просто вставляют выдуманные ссылки. Пол группы ушло на пересдачу из-за того, что все попались на том, что как минимум четверть всех ссылок у них была "галюцинацией" ИИ. Преподам даже проверять не пришлось, просто гуглили авторов и их работы. Больше 2-х выдуманных исследований и авторов -> завал
     
     
  • 2.87, Аноним (60), 11:30, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    А два фейковых автора это еще норм видимо. Как то мягковато с ними, отчислять без права восстановления было бы лучше, но видимо до такого доводить не будут. Что получится из таких после?
     
     
  • 3.136, Аноним (126), 17:58, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > отчислять без права восстановления

    Почему совки и люди воспитанные совками так любят наказывать, при чём чем жёстче — тем лучше? Не пробовали не доводить дело до наказания? Поговорить по душам, понять причины поведения, найти другой способ взаимодействия с причинами и, как следствие, помочь стать человеку лучше не пробовали?

     
     
  • 4.138, Аноним (60), 18:50, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Ну вот почему то в штатах и британии в приличных вузах отчисляют за списывание, причем без долгих разговоров, а тут мы видим очередное нытье про совков.
    Чтоб вам такой (дегенерат) бывший студент достался когда будете например у стоматолога на приеме в кресле лежать.
     
  • 4.139, Аноним (60), 18:57, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Для особо одаренных из розовой несовковой Нарнии, вот первая попавшаяся статья на тему отчислений
    https://studinter.ru/nl/tips/4_prichiny__po_kotorym_otchislyaut_studentov
    Потому как зачем на такого время тратить - это уже взрослая сформировавшаяся личность, розги не помогут.
     
  • 2.93, Аноним (93), 12:22, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Можно пояснить, почему. Рассмотрим простейшую задачу - аппроксимацию полиномом. Чем выше степень, тем точнее в заданных точках. В идеале, кривая проходит точно через точки (когда степень полинома равна числу заданных точек). А что между точками? Да всё, что угодно - любая дикость. Что и имеем. Нейронная сеть, тем более с миллиардом параметров - конечно, болеее сложный объект, но суть не меняется.
     
     
  • 3.101, анонд (?), 12:59, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    ... потому что это искаженная информация в которой потеряны связи замененные на их вероятность. Это же не поисковик, а имитация интеллекта, текстовый генератор, игрушки хитроумная в которой люди находят смысл. Китайская комната :)
     
     
  • 4.106, Аноним (93), 13:05, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > замененные на их вероятность

    Если бы. Немного занимался данной проблемой. Нейронная сеть как метод не позволяет дать вероятностную (точечную и интервальную) оценку модели. Кот в мешке в чистом виде.

     
     
  • 5.145, нах. (?), 20:38, 13/04/2025 Скрыто ботом-модератором     [к модератору]
  • +/
     

  • 1.91, Аноним (99), 12:08, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    ИИ это новая ступень поискового автомата. Попробуйте, как у эксперта, попросить напомнить слово "тивоизация"
    путем наводящих вопросов. 8 наводящих вопросов и ответ не получен. ИИ повторяет чему его научили на данных интернета. Кроме того возможен преднамеренный спам в интернет, с целью обучить будущую модель. Возможно временное размещение модуля-заглушки с последующей подменой на вредоносный. Вот такой манипулируемый ИИ.
     
     
  • 2.95, Аноним (93), 12:26, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > преднамеренный спам в интернет, с целью обучить будущую модель

    А разве это не так? По некоторым научным и программистским темам, которые я рассматривал последнее время, чепухи в результатах поиска уже до 100%, причем идут циклические ссылки друг на друга.

     
     
  • 3.97, Аноним (93), 12:31, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедия, научные и учебные (сайты универов зарубежных, ибо отчественные выхолощены до полного информационного вакуума), коммерческие - от разработчиков инструментария и библиотек алгоритмов (R и Python).
     
     
  • 4.113, нах. (?), 13:39, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедия

    ну она называлась викивракией задолго до бума ИИ. Внезапно, людишки тоже врут.

     
     
  • 5.119, k1801 (ok), 15:34, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Было время, когда там действительно была чушь. И было время, когда википедия проверялась и модерировалась. Почти каждую правку под микроскопом рассматривали...
    Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается от версии, проверенной в 2021 году". Почему-то почти всегда 2021.
     
     
  • 6.148, нах. (?), 21:01, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается
    > от версии, проверенной в 2021 году". Почему-то почти всегда 2021.

    ты наверное русскоязычную читаешь. Понимаешь, в феврале 2022го случилось у них там что-то.


     
  • 5.121, Аноним (-), 16:04, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Внезапно, людишки тоже врут.

    Ну я пытался добавлять и делать правки по некоторым темам по программированию. Мне не дали. Там странная модерация контента. Так что может дело не только в людях, а НКО которым оно принадлежит? Они же как-то выбрали этих модераторов?

     
     
  • 6.125, Аноним (-), 16:47, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государства. Есть кучка людей назначенных "работать" в Википедии. По-факту русскоязычный сегмент Википедии не является свободным.
     
     
  • 7.154, YetAnotherOnanym (ok), 22:34, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государства

    Чё??? Ты пробовал читать там статьи, затрагивающие актуальную политику?

     
  • 6.129, Прохожий (??), 17:17, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Была информация, что ИИ для программистов учится в том числе на сайте stackoverflow. Данный сайт представляет собой убогое зрелище. Представляю, чему там ИИ научился.
     
     
  • 7.146, нах. (?), 20:54, 13/04/2025 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 6.147, нах. (?), 20:57, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    в основном их выбирали по методу - кто первым встал, того и тапки.
    Причем в модераторы пробились по максимуму активности, а не по обладанию знаниями.

    А теперь еще добавилось и то что модераторы эти постарели и потеряли интерес, или им пришлось срочно бежать куда-то где не до викивракии, на хлеб бы заработать. Поэтому и висят плашки про 21й год.

     
  • 4.155, YetAnotherOnanym (ok), 22:44, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    > на ресурсах, которым хотелось бы верить

    Такой ресурс есть (пока) - rutracker.org. Скачиваешь сканы книг по интересуещему предмету и читаешь.

     

  • 1.102, Аноним (102), 13:00, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Мозги надо держать в тонусе, а повсеместное использование ИИ не для поиска информации (которую потом надо перепроверить), а для решения задач - расслабляет и приводит к отуплению. Вначале - о, как круто, ИИ сгенерил это быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет решить даже простую задачу без помощи ИИ. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.
     
     
  • 2.114, Аноним (99), 13:42, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Как с помощью логарифмической линейки точно разделить пол литра на троих? Калькулятор не поможет. )
     
     
  • 3.124, Аноним (124), 16:23, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    ну почему же, калькулятором тоже можно бутылку измерить
     
  • 3.130, Прохожий (??), 17:21, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +1 +/
    ИИ не поможет искать оптимальное решение для программиста - он думать не умееет. Чтобы разделить поллитра на троих, никакие измерительные приборы вообще не нужны. Всё намного проще. Известно, что в 0,5 содержится ровно 21 буль. Получается по 7 булей на стакан. Кстати, и тут интернет чепуху несет - так, на некоторых сайтах утверждается, что в 0,5 литра 24 буля. Какая чепуха!
     
  • 2.137, Аноним (126), 18:06, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Мозги надо держать в тонусе, а повсеместное использование письменности для сохранения знаний - расслабляет и приводит к отуплению. Вначале - о, как круто, можно это записать быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет запомнить даже простую фразу не записав. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.

    Я ещё несколько смешных копипаст придумал из твоего текста, одна противопоставляет автомобиль и хождение, вторая — медицину и имунную систему, за упоминание третьей модератор снесёт коммент, а четвёртая была про компилятор и машинные коды. Но я думаю ты суть уловил.
     
     
  • 3.149, Аноним (-), 21:07, 13/04/2025 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.150, ыы (?), 21:09, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    Студенты-двоешники рукоплещут вам стоя.
     
  • 3.153, YetAnotherOnanym (ok), 22:32, 13/04/2025 [^] [^^] [^^^] [ответить]  
  • +/
    То есть, стихи наизусть ты в школе не учил?
     

  • 1.127, Аноним (128), 17:12, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Какой %много плохих слов с использованием идиоматических выражений% использует ИИ для генерации кода?!?!
     
  • 1.152, YetAnotherOnanym (ok), 22:10, 13/04/2025 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Когда-то переводчика, уличённого в использовании машинного перевода без выверки вручную, гнали с собеседования погаными тряпками. Теперь будет то же самое с программистами.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2025 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру