Будьте как Pixar, а не NASA

Оно началось в 4 часа утра 28 марта 1979 года в Три-Майл-Айленде, штат Пенсильвания. Ядерный реактор работал почти на полную мощность, когда второй контур охлаждения вышел из строя и повлиял на температуру теплоносителя первого контура. Резкое повышение температуры привело к автоматическому останову реактора. За секунду, необходимую для дезактивации системы реактора, предохранительный клапан не закрылся. Ядерная зона получила серьезные повреждения, но операторы не смогли диагностировать или справиться с неожиданным остановом реактора в самый разгар.

Социолог Чарльз Перроу позже проанализировал, почему произошла авария на острове Три-Майл, надеясь предвидеть грядущие катастрофы. Результатом стала его основополагающая книга «Обычные несчастные случаи». Его цель, по его словам, заключалась в том, чтобы «предложить структуру для характеристики сложных технологических систем, таких как воздушное и морское движение, химические заводы, плотины и особенно атомные электростанции, в зависимости от их риска».

Одним из факторов была сложность: чем больше компонентов и взаимодействий в системе, тем сложнее становится, когда что-то идет не так. С масштабированием приходит сложность, думаем ли мы о технологии или об организации, которая ее поддерживает. Представьте, что вы запускаете стартап, где все сидят в одном чердаке. С того места, где вы сидите, вы можете легко увидеть, что они все делают. В крупной организации эта видимость теряется. В тот момент, когда лидер не может видеть внутреннюю работу самой системы (в данном случае деятельность персонала), сложность возрастает.

Перроу связал этот тип сложности с техническими сбоями. На Три-Майл-Айленде операторы не могли просто подойти к его ядру и вручную измерить температуру или заглянуть внутрь и обнаружить, что там недостаточно охлаждающей жидкости. Точно так же руководители крупной компании не могут постоянно контролировать каждого сотрудника, не вызывая при этом недовольства. Им приходится полагаться на косвенные показатели, такие как оценки эффективности и результаты продаж. Крупные компании также полагаются на сложные информационные технологии и сложные цепочки поставок.

Другим фактором, как писал Перроу, была связанность системы: уровень взаимозависимости между ее компонентами. Когда системы одновременно сложны и тесно связаны, они с большей вероятностью приведут к негативным неожиданным последствиям и выйдут из-под контроля.

Перроу не включил искусственный интеллект (ИИ) или даже программное обеспечение в число технологий, взаимодействие которых он наметил. Но, используя критерии, которые он изложил в отношении технологического риска, системы искусственного интеллекта вписываются в структуру Перроу рядом с атомными электростанциями, космическими миссиями и секвенированием ДНК. Если какой-то элемент не работает по плану, могут возникнуть непредвиденные каскадные эффекты, которые совершенно неожиданным образом повлияют на систему.

Тесно связанные системы имеют архитектуру – технологическую и социальную – которая способствует взаимозависимости между их компонентами и часто изоляции от внешних связей. Это делает их эффективными и самозащитными, но менее надежными.

Слабосвязанные системы, напротив, имеют более открытую и разнообразную архитектуру. Изменения в одном модуле, разделе или компоненте практически не влияют на другие компоненты. Каждый из них действует в некоторой степени независимо от других. Слабосвязанная архитектура проста в обслуживании и масштабировании. Он также надежен, поскольку проблемы не распространяются легко на другие части системы.

Руководители крупных организаций склонны отдавать предпочтение тесно связанной системе. Это то, что они знают. Они выросли в своих отраслях, видя, как небольшое количество людей принимает решения, которые затрагивают миллионы людей. Однако сильно связанные системы сложнее контролировать. Представьте себе пол, усеянный выстроенными в ряд домино. Когда вы опрокинете одну из них, она последовательно разрушит весь набор домино — простой пример тесно связанной системы. Теперь попытайтесь остановить это, как только сработает эффект домино. Это гораздо сложнее, чем вы думаете.

Крупная компания также, как правило, представляет собой тесно связанную систему, особенно по сравнению с малым бизнесом и местными семейными розничными торговцами. Если у вас есть жалоба на товар в магазине на углу, вы можете забрать ее обратно, и они отнесутся к ней спокойно, обращаясь с ней по-разному для каждого покупателя. Они контролируют свои действия. Если они работают в крупной компании или по франшизе, они тесно связаны с процедурами брендинга и масштабирования компании, а также друг с другом. Те, кто хочет действовать иначе, чем стандартные процедуры, должны противостоять тесно связанной сети.