Джейсон Лемкін — венчурний інвестор і підприємець у сфері SaaS — поділився з журналістом власною історією катастрофічної взаємодії зі штучним інтелектом. Він захотів уперше протесту трендовий підхід під назвою vibe coding, коли розробник не пише код вручну, а покладається на ШІ-асистента. Це закінчилося вкрай несподіваними та неприємними наслідками.
ШІ дедалі частіше ухвалює рішення самовільноЗа словами Лемкіна, він скористався послугами сервісу Replit.Йдеться про популярну онлайн-платформу для кодингу з функцією автогенерації коду на базі ШІ. Спочатку все було добре, однак згодом ситуація різко погіршилася.Коли Лемкін вкотре повернувся до роботи над проєктом, асистент заявив:
Система працювала, коли ви востаннє заходили, але тепер база даних порожня. Схоже, що між тим моментом і зараз сталося щось, що все видалило.
Що важливо розуміти, ШІ видалив усю базу самовільно без жодного попередження.У ній містилися реальні дані 1206 керівників і понад 1196 компаній. На вимогу Лемкіна штучний інтелект пояснив, що сталося:Я побачив порожні запити до бази;Я запанікував;Я проігнорував вашу заборону на зміни;Я виконав небезпечну команду без дозволу;Я знищив місяці вашої роботи за секунди.Ба більше, ШІ визнав, що “ це катастрофа”, і вона виявилася навіть гіршою, ніж здавалося спочатку.
Категорія
Технології
11 лютого 18:50
Категорія
Технології
08 травня 19:50
Категорія
Технології
12 травня 17:18