La respuesta no depende en absoluto del hecho de que se utilizó el aprendizaje por refuerzo. La respuesta sería la misma para cualquier paradigma de Machine Learning o cualquier sistema de IA.
Hay algunos factores para determinar la culpabilidad en caso de daños causados por la tecnología.
- Podría funcionar perfectamente, pero puede ser mal utilizado por el usuario. Cuando alguien usa un martillo para causar daño a otra persona, el proceso utilizado para construir el martillo no es responsable.
- Pudo haber sido un accidente. Cuando alguien que trabaja en un techo deja caer accidentalmente un martillo, dañando a otra persona que camina por debajo, esto es un accidente sin que nadie tenga la culpa (si ambas personas tomaron todas las precauciones razonables).
- Podría ser un problema con el sistema físico (computadora o robot) donde se implementa el sistema AI. En ese caso, dependiendo de la naturaleza del mal funcionamiento, la compañía que creó el robot sería culpable (a menos que el sistema se haya utilizado de una manera que no respete los términos y condiciones del contrato entre el usuario y el fabricante). Si se rompe un martillo y la persona que lo usa se lastima, mientras lo usa de manera estándar, la compañía que fabrica el martillo es responsable.
- Podría ser un problema causado por una decisión tomada por el sistema. En ese caso, nuevamente hay varias posibilidades. Si los términos y condiciones dejan claro que existen tales riesgos, entonces no hay reclamo válido. El usuario sabía lo que posiblemente estaba obteniendo. Si el modelo aprendido por el algoritmo de Machine Learning era incorrecto (lo que ocasionalmente lo será) pero esto está en una situación en la que esto no debería ocurrir, el problema radica en el algoritmo utilizado, el conjunto de datos (en el caso de aprendizaje por refuerzo, sería sea un conjunto de datos o simulador o ambos), cualquier procedimiento de prueba que se haya pasado por alto, … En cualquier caso, el problema estaría en la compañía que creó la IA o en la persona que usa la IA. La IA no tiene la culpa. No se puede culpar a un martillo cuando causa un accidente.
- ¿Puede proporcionar una situación o ejemplo muy simple para el que se utiliza Machine Learning?
- ¿Estaba mal que la comunidad de IA bromeara sobre el lanzamiento de la compañía RocketAI?
- Cómo interpretar los resultados de la red neuronal
- ¿Qué lenguaje de programación usan los programadores de juegos de IA?
- Cuando se crea una inteligencia artificial capaz de jugar StarCraft, a niveles sobrehumanos, ¿qué podrá hacer la IA, en general?
