Sin embargo, muchas organizaciones continúan invirtiendo en algoritmos inexplicables debido a la disyuntiva entre precisión y explicabilidad: Históricamente, los líderes tecnológicos han asumido que cuanto mejor pueda entender un ser humano un algoritmo, menos preciso será.
Caja blanca vs. Caja negra
Los científicos de datos hacen una distinción entre los llamados modelos de Inteligencia Artificial de caja negra y de caja blanca: Los modelos de caja blanca suelen incluir sólo unas pocas reglas simples, presentadas, como, por ejemplo, un árbol de decisiones o un modelo lineal simple con parámetros limitados.
Por el contrario, los modelos de caja negra utilizan cientos o incluso miles de árboles de decisión, o miles de millones de parámetros para informar sus resultados. Pero ¿su complejidad hace necesariamente que los modelos de caja negra sean más precisos?
Desacreditar el compromiso precisión-explicabilidad
Para explorar esta cuestión, llevamos a cabo un análisis riguroso y a gran escala de cómo se comportaron los modelos de caja blanca y negra en una amplia gama de casi 100 conjuntos de datos representativos.
Descubrimos que para casi el 70% de los conjuntos de datos, los modelos de caja negra y de caja blanca produjeron resultados igualmente precisos.
Por supuesto, hay algunos casos en los que los modelos de caja negra siguen siendo beneficiosos. Pero a la luz de las desventajas, nuestra investigación sugiere varios pasos que las empresas deberían tomar antes de adoptar un enfoque de caja negra:
Cuadro blanco por defecto: Como regla general, los modelos de caja blanca deberían utilizarse como puntos de referencia para evaluar si los modelos de caja negra son necesarios. Antes de elegir un tipo de modelo, las organizaciones deben probar ambos y, si la diferencia en el rendimiento es insignificante, se debe seleccionar la opción de caja blanca.
Conozca sus datos: Uno de los principales factores que determinará si es necesario un modelo de caja negra son los datos involucrados.
En primer lugar, la decisión depende de la calidad de los datos. Cuando los datos son ruidosos (es decir, cuando incluyen mucha información errónea o sin sentido), los métodos de caja blanca relativamente simples tienden a ser efectivos.
De su interés Conozca los desafíos de la creación de redes como ejecutivo
En segundo lugar, el tipo de datos también afecta la decisión. Para aplicaciones que involucran datos multimedia como imágenes, audio y video, los modelos de caja negra pueden ofrecer un rendimiento superior.
Conozca a sus usuarios: En situaciones en las que un proceso justo de toma de decisiones es de suma importancia, o en las que se requiere alguna forma de justicia procesal, puede tener sentido priorizar la explicabilidad.
Conozca su organización: Para las organizaciones que están menos desarrolladas digitalmente, en las que los empleados tienden a tener menos confianza o comprensión de la IA, puede ser mejor comenzar con modelos más simples antes de avanzar hacia soluciones más complejas.
Conozca sus regulaciones: En ciertos ámbitos, la explicabilidad puede ser un requisito legal, no algo agradable de tener. Cuando la ley exige que las organizaciones puedan explicar las decisiones tomadas mediante sus modelos de IA, los modelos de caja blanca son la única opción.
Explique lo inexplicable: Finalmente, hay, por supuesto, contextos en los que los modelos de caja negra son innegablemente más precisos y aceptables con respecto a cuestiones regulatorias, organizativas o específicas del usuario.
Si una organización decide implementar un modelo de IA opaco, debe tomar medidas para abordar los riesgos de confianza y seguridad asociados con la falta de explicabilidad.
En última instancia, no existe una solución única para la implementación de la IA. Pero en muchos casos, los modelos de IA simples e interpretables funcionan tan bien como las alternativas de caja negra, sin sacrificar la confianza de los usuarios.
Copyright:
c.2023 Harvard Business School Publishing Corp.
Siga leyendo Las razones por las cuales dejar un mal trabajo resulta difícil
