Коротко
- Користувачі Proton повідомляють про скасування підписок і закликають генерального директора Енді Єна піти у відставку.
- За повідомленнями, Єн назвав запит на додаткове тестування безпеки «мисленням невдах», водночас просуваючи швидше впровадження ШІ.
- Компанія скасувала заплановані повторні співбесіди щодо ШІ, а потім опублікувала маніфест на захист своєї інженерної перебудови.
Користувачі Proton повідомляють про скасування підписок після того, як стало відомо, що генеральний директор Енді Єн тиснув на інженерів, аби ті якнайшвидше впроваджували ШІ, і назвав запит на додаткове тестування безпеки «мисленням невдах».
Відтоді швейцарська компанія, що займається приватністю, скасувала заплановані оцінювання використання ШІ працівниками.
Хвиля обурення підриває головну перевагу Proton — довіру до неї щодо зберігання інформації, яку люди хочуть тримати приватною. Її сервіс зашифрованої електронної пошти шифрує повідомлення для захисту їхнього вмісту, і клієнти, які ставлять під сумнів її практики розробки, запитують, чи швидші випуски можуть відбуватися за їхній рахунок.
Відкрито до вирішення
У серпні співробітник Proton попросив компанію виділити кілька днів на тестування нового коду на проникнення, тобто фахівці мали спробувати зламати його до випуску, повідомляє 404 Media. Єн відповів: «Це дурниці й мислення невдах. Звісно, можна бути і швидким, і безпечним».
Він також закликав співробітників припинити писати код вручну та більше використовувати ШІ, а також згадав, що повторно проводитиме співбесіди зі своїми співробітниками, щоб з'ясувати, чи і як вони використовують ШІ у своїй роботі, повідомило видання. Його розслідування ґрунтувалося на свідченнях дев'яти нинішніх і колишніх співробітників, внутрішніх повідомленнях і записах зустрічей.
Це не знайшло розуміння серед користувачів, і клієнти відреагували повідомленнями про скасування підписки та вимогами нового керівництва в соціальних мережах, таких як Reddit. Пропозиція на форумі відгуків Proton із закликом до Єна піти у відставку на момент перегляду мала 2 020 голосів, а також коментарі користувачів, які заявляли, що скасували підписки або не будуть їх продовжувати.
Окрім сліпого використання ШІ, деякі колишні та нинішні співробітники Proton на Reddit і в соціальних мережах задокументували токсичну робочу культуру, особливо з боку генерального директора.
BitcoinBTC · USD
$76,991−3.75%
26 жовт28 жовт30 жовт1 лист2 лист
$81.8k$80.1k$78.4k$76.7k
24г МаксимумМакс$78,728
24г МінімумМін$77,236
ОбОб$912.8M
→Купити Bitcoin за USDC
Працює на Jupiter
Ці дописи документують гнів, а не перевірену кількість клієнтів, які йдуть. Скасування платного плану також не обов'язково означає видалення облікового запису.
Прагнення Proton у сфері ШІ передували цьому спору. Їхній чат-бот Lumo має засоби захисту від використання розмов для навчання ШІ, але внутрішнє використання ШІ не було серед переваг Proton, навіть на піку ажіотажу навколо чат-ботів.
Щоб відповісти на занепокоєння щодо безвідповідального використання ШІ, 1 листопада технічний директор Барт Батлер опублікував інженерний маніфест, у якому стверджував, що розробники повинні керувати великими мовними моделями — системами ШІ, які генерують текст і код, — а не ставитися до них як до випадкових помічників.
Батлер порівняв ручне кодування із запам'ятовуванням телефонних номерів і передбачив, що зрештою більшість перевірок коду людьми буде припинено. Він також наполягав на тому, що експертиза й тестування залишаються необхідними, а інженери несуть відповідальність за роботу, з якою моделі не можуть надійно впоратися.
«Ваша робота докорінно змінилася. Вона більше не полягає в написанні коду, і великі мовні моделі тут не для того, щоб допомогти вам писати кращий код швидше, — йдеться в маніфесті. — Ваша робота полягає в тому, щоб допомогти великій мовній моделі писати кращий код швидше». Подвоюючи свою позицію, Proton вважає уникнення ШІ «екзистенційною загрозою» для успіху самої своєї місії.
«„Програмування“ мертве. Інженерія — ні», — сказав Баттлер своїй команді. «Ваша колишня робота зникла».
Документ також закликає до загальнокомпанійних інвестицій в автоматизацію, стверджуючи, що швидша генерація коду мало що дає, якщо схвалення та інші етапи розробки залишаються повільними. Батлер описав цю перебудову як наступну фазу впровадження.
Інструменти ШІ можуть створювати й власні проблеми з безпекою. Наприклад, дослідники Microsoft заявили, що вже виправлена вразливість Claude могла розкрити секретні облікові дані доступу через шкідливі інструкції, приховані в матеріалах, які переглядав помічник із кодування.
Вони також можуть допомогти знаходити слабкі місця: система PageBreak від Google шукає в її застосунках уразливості, які можна використати, і перевіряє, чи справді працюють атаки.
Proton визнала в інтерв'ю 404 Media, що керівництво іноді спілкувалося надто прямолінійно і що працівники були стривожені. Водночас її публічний маніфест стверджує, що нездатність швидко впровадити ШІ загрожує здатності компанії конкурувати.
Єн скасував повторні співбесіди 30 жовтня. Ці оцінювання вимагали б від співробітників пояснити, як вони використовують ШІ, і працівники побоювалися, що їхні відповіді можуть визначити, чи збережуть вони свої робочі місця.
Приєднуйтесь до понад 72 000 читачів
Створіть обліковий запис, щоб зберігати свої статті.
Додайте Decrypt як пріоритетне джерело, щоб бачити більше наших матеріалів у Google.
