Vehículos autónomos y ética de la IA

En un accidente más grave, el pasajero resultó herido en una colisión con un camión de bomberos. Como resultado, el operador acordó reducir a la mitad la cantidad de vehículos sin conductor que operaran en San Francisco.

La decisión de permitir los vehículos autónomos puede marcar el comienzo de una nueva era del transporte, o puede resultar un falso amanecer. De cualquier manera, los problemas que rodean a los vehículos autónomos ilustran muchas de las cuestiones éticas que plantea el impacto de la inteligencia artificial en la vida cotidiana.

Un mundo en el que la mayoría de los vehículos fueran totalmente autónomos tendría muchas ventajas. La mayoría de los autos privados pasan mucho tiempo inactivos. Si todo el mundo pudiera recurrir a un vehículo autónomo cuando fuera necesario, no habría necesidad de tener un carro propio y se ahorrarían recursos. Además, al mantener el tráfico fluido, el uso generalizado de vehículos sin conductor también puede ahorrar combustible y tiempo.

Errores humanos

Pero la razón más importante para eliminar a los conductores humanos es que también podría eliminar los errores humanos que causan tantos accidentes de tráfico, lesiones y muertes (la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. cifra el número de muertos en las carreteras estadounidenses el año pasado en 42.795).

Elon Musk dice que desarrollar vehículos totalmente autónomos es una obligación moral porque puede derivar en un “futuro prácticamente libre de accidentes”. Sin embargo, ese futuro aún está lejos: hasta la fecha, los Tesla que fabrica la compañía de Musk se han visto involucrados en más de 700 accidentes, con 17 víctimas mortales, cuando funcionaban en autopilot, su modo de asistencia al conductor.

Ambas compañías de automóviles sin conductor en San Francisco afirman que sus vehículos están involucrados en menos colisiones, y especialmente menos colisiones con lesiones, que los conductores humanos en un entorno de conducción comparable. Pero la validez de tales afirmaciones es cuestionada debido a dudas sobre los entornos de conducción que se comparan.

Aun así, incluso si la última generación de vehículos sin conductor es menos segura que el conductor humano promedio, se podría argumentar que ponerlos en las calles de la ciudad ahora está justificado porque hacerlo salvará muchas más vidas a largo plazo.

Una vez que se perfeccionen los vehículos autónomos, podremos incluso restringir a los conductores humanos a velocidades más bajas, o prohibirlos por completo, porque el riesgo que representan para otros usuarios de la carretera, en comparación con la opción más segura que ofrecen los automóviles sin conductor, se vuelve inaceptable.

No sorprende que la oposición a los robotaxis haya provenido de los taxistas, una respuesta conocida en otras áreas donde la IA amenaza con dejar a la gente sin trabajo. Al mejorar la productividad, dicen sus defensores, la IA nos proveerá un mejor equilibrio entre el trabajo y la vida privada. Pero “nosotros” no incluirá a nadie que pierda su trabajo a causa de la IA, a menos que se vuelva a capacitar para otro trabajo y a menos que se exija a las empresas que paguen a sus empleados un salario digno por una semana laboral más corta. ¿Habrá voluntad política para hacerlo?

Inteligencia artificial y futuro

Mirando hacia el futuro, ¿qué pasaría si la IA tuviera tanto éxito que pocos humanos tuvieran trabajo? ¿Seremos capaces de desarrollar nuevos propósitos que reemplacen el papel del trabajo a la hora de dar sentido y realización a nuestras vidas?

Es probable que la programación de IA sea otra área de regulación. Volviendo al ejemplo de los vehículos sin conductor, los consumidores en un mercado no regulado buscarán automóviles que minimicen el riesgo para ellos o sus pasajeros, incluso si eso aumenta significativamente el riesgo para los peatones.

Sin embargo, si todos los automóviles se programaran de esta manera, el número de personas muertas o heridas por los automóviles sería mayor que si los automóviles se programaran para seguir estrategias de minimización de riesgos que sean imparciales entre quienes están dentro y fuera del automóvil. Solo una regulación que requiera tal imparcialidad puede evitar un resultado parecido a la conocida “tragedia de los bienes comunes”.

Una cuestión más sorprendente que plantean los autos sin conductor es que parecen ser menos fiables a la hora de detectar peatones de piel más oscura que aquellos de piel más clara y, por tanto, pueden atropellar a un número desproporcionadamente mayor de peatones de piel oscura.

Un estudio (publicado en el 2019 y que utilizó tecnología de punta en el 2018) sugiere que esto se debió a que el software fue desarrollado y entrenado en regiones con más peatones de piel clara que de piel oscura. Si ese es el caso, una vez que seamos conscientes de dichos problemas pueden y deben solucionarse.

Una cuestión ética importante, pero a menudo pasada por alto, que plantean los vehículos autónomos es si deben programarse para evitar golpear a los animales y, de ser así, cuáles.

Todos los vertebrados, y algunos invertebrados, son seres sensibles, propensos a sufrir si son golpeados, pero no mueren instantáneamente. Además, en muchas especies, la pérdida de una pareja causará angustia o puede provocar que la descendencia dependiente muera de hambre. Cómo debemos valorar las vidas y los intereses de todos los seres sintientes es una cuestión que la ética de la IA debe abordar.

Peter Singer es profesor de Bioética en la Universidad de Princeton.

© Project Syndicate 1995–2023