Для предприятий применение передовых методов машинного обучения, таких как глубокое обучение, может привести к преобразованию бизнеса, однако характер "черного ящика", который сопровождает эти подходы, создает барьеры при его реализации. Интерпретируемость модели машинного обучения, или способность объяснить, почему и как модель делает прогноз, может позволить бизнесу быстро понять, как происходит прогноз, и уверенно принимать решения для оптимизации процессов. 

For enterprise businesses, applying advanced machine learning (ML) techniques like deep learning can deliver transformative business outcomes, yet the black-box nature of these approaches creates barriers of understanding that can slow adoption to a halt.  ML model interpretability, or the ability to explain why and how a model makes a prediction, can enable business stakeholders to quickly understand the how and why of predictive outcomes and confidently make decisions that optimize for future business results.