Home

Автор: Джеймс Бах (James Bach)
Оригинал статьи
Перевод: Ольга Алифанова

Существует множество способов «ускорить что-то в 10 раз».

• Ехать со скоростью 300 миль в час по оживлённой городской улице.
• Съесть 15 000 калорий за один приём пищи.
• Завести десять собак.
• Родить десять детей.
• Завести сотни друзей.

У всех этих вещей есть вполне очевидные последствия и побочные эффекты. Даже простое наличие гораздо большего количества друзей заставит понимать дружбу гораздо поверхностнее, чем можно было бы себе позволить. Так почему же, когда фанаты ИИ говорят о «десятикратном» росте своей продуктивности, они никогда не упоминают о побочных эффектах?

Потому что они говорят и действуют безответственно.

Увеличение продуктивности в разы — уже само по себе чрезвычайно смелое утверждение. Сделать это без серьёзных рисков и последствий — просто невероятно. Если, конечно, у заявляющего не низкие стандарты. Если качество не важно, можно достигнуть любой другой цели.

Когда разработчики просят ИИ писать за них код, это действительно может происходить очень быстро. Но некоторые вещи всё равно остаются медленными:

• процесс, в ходе которого разработчик понимает, что именно он строит
• процесс принятия разработчиком решений о том, что делать дальше
• процессы обучения и принятия решений владельцем продукта
• процессы обучения и принятия решений конечными пользователями
• время, необходимое, чтобы неуловимый баг проявился в ходе обычного использования.

Если кто-то заявляет, что ускорил разработку продукта в 10 раз, у меня появляются следующие вопросы:

1. Расскажите о своей стратегии тестирования. (Ах, не знаете, потому что поручили ИИ протестировать всё за вас.)
2. Тогда я спрошу ваш ИИ о его стратегии тестирования. (Он выдаст много текста, который может как соответствовать реальности, так и нет.)
3. Я попрошу ИИ проанализировать слабые стороны этой стратегии. (Он снова выдаст текст, который может отражать важные слабости, а может и нет.)
4. 4. Я проверю его заявления о покрытии рисков и покрытия продукта, достигнутом его собственными проверками.
5. Я изучу продукт настолько, чтобы провести собственный анализ рисков и того, насколько они покрыты стратегией тестирования. (Это либо выявит важные пробелы в тестировании, либо нет. В любом случае можно будет начать брать ответственность за стратегию.)
6. Я получу и изучу журналы переписки, показывающие, как создавался продукт. (Это даст подсказки о слабых местах в подходе к разработке и о потенциальных необнаруженных багах.)
7. В процессе этого я изучу артефакты тестирования и результаты. (Сначала нужно будет в них разобраться, а затем оценить их в сравнении с заявлениями ИИ и с общими бизнес-рисками.)
8. Особое внимание я уделю проблемам безопасности и пользовательского опыта. (Они часто встречаются в продуктах, написанных «на отвали» с помощью ИИ.)

Шаги 4–8 нельзя существенно ускорить с помощью ИИ, потому что весь смысл в том, чтобы достичь человеческого понимания того, как именно мы узнаем, что цель достигнута. Это понимание нельзя «сгенерировать» вне человеческого разума и просто импортировать. Его должен построить конкретный человек. И этот человек должен вызывать доверие.

Все уже видели, как ИИ уверенно утверждает вещи, которые не соответствуют действительности. Я видел заявления о том, что тесты были запущены, хотя это не так; что баги исправлены, хотя они остались; что продукт работает, хотя он вообще не работает. Именно поэтому нельзя просто верить ИИ на слово. Поэтому я и говорю, что «AI» означает «automated irresponsibility» — автоматизированная безответственность.

Тестирование на самом деле не про качество, а про ответственность. Что означает «десятикратная» продуктивность, и откуда вы о ней узнали?

Обсудить в форуме