Hubo un artículo interesante en New Scientist el mes pasado que destaca las nuevas regulaciones en el Reino Unido relacionadas con la transparencia de las decisiones de IA/Aprendizaje Automático. Las organizaciones allí podrían enfrentar multas de varios millones de libras si no pueden explicar adecuadamente por qué se toman decisiones de estos modelos. Existen regulaciones similares en la UE. Esto apunta a un problema en la forma en que se construyen muchos modelos de IA utilizando modelos de aprendizaje profundo donde el modelo en sí actúa como una gran caja negra. Usted alimenta las entradas al modelo y este escupe un resultado al final. El "por qué" del modelo falta, ya que no tiene idea de dónde provienen los resultados o por qué el modelo determinó un resultado particular.
La falta de transparencia está bien para algunos tipos de modelos de clasificación u otros casos de uso. Sin embargo, cuando es de vital importancia poder demostrar equidad, proporcionar soluciones de la mejor atención o cuando necesita explicar por qué se toma una decisión determinada, la IA de caja negra no será suficiente. ¿Significa esto que el aprendizaje automático no se puede aplicar? En absoluto, pero cambiará su enfoque.
Hay un par de enfoques diferentes que podría emplear para crear modelos que puedan ser comprendidos y explicados, y ambos utilizarán la misma tecnología subyacente de aprendizaje automático. Lo primero que debe entender es que existe una buena cantidad de tecnologías de modelado de aprendizaje automático. Los expertos en el campo debatirán cómo clasificar estos diversos modelos, pero entienda que cualquiera de los siguientes tipos de modelos se anuncian regularmente como algoritmos de aprendizaje automático: regresión, basado en instancias, regularización, árboles de decisión, bayesiano, agrupamiento, reglas de asociación, redes neuronales artificiales, aprendizaje profundo,...... y la lista continúa.
Fundamentalmente, para explicar cómo un algoritmo llega a una conclusión, necesita responder a la pregunta "Si esto, entonces aquello". Por lo tanto, los mejores algoritmos para usar para responder a esta pregunta son los árboles de decisión. Podría usar otros algoritmos para calcular las entradas de un árbol de decisión (regresión, bayesiano), pero el árbol de decisión le dará la explicación definitiva de cómo su modelo llegó a una conclusión. Los árboles de decisión podrían terminar siendo ligeramente menos "precisos" que un modelo de aprendizaje profundo, pero podrán explicarse a sí mismos.
