El jefe de Microsoft pide que los humanos gobiernen la IA y protejan las infraestructuras críticas

Durante semanas, los legisladores de Washington han debatido sobre qué leyes aprobar para controlar la IA, incluso cuando empresas grandes y pequeñas se han apresurado a introducir en el mercado una IA cada vez más versátil. En una entrada de blog publicada el jueves, el dirigente de Microsoft hizo hincapié en la necesidad de rendir cuentas.

«Se trata de la necesidad fundamental de garantizar que las máquinas sigan estando sujetas a la supervisión efectiva de las personas y que las personas que diseñan y manejan las máquinas sigan siendo responsables ante todos los demás. En resumen, debemos asegurarnos siempre de que la IA permanece bajo control humano», escribió.

Como parte de un plan de cinco puntos para la gobernanza pública de la IA, Smith instó a prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas. «Nuevas leyes requeriría a los operadores de estos sistemas a incorporar frenos de seguridad en el diseño de los sistemas de IA de alto riesgo», escribió en el blog.

Instó a utilizar un sistema del tipo «Conozca a su cliente» para que los desarrolladores de potentes modelos de IA controlen cómo se utiliza su tecnología e informen al público de los contenidos que crea la IA para que puedan identificar los videos falsos. La semana pasada, Sam Altman, presidente ejecutivo de OpenAI, la startup que está detrás de ChatGPT, dijo a una comisión del Senado, en su primera comparecencia ante el Congreso, que el uso de la inteligencia artificial para interferir en la integridad de las elecciones es un «importante motivo de preocupación», y añadió que es necesario regularlo.

Altman, cuya OpenAI cuenta con el respaldo de Microsoft, también pidió cooperación mundial en materia de IA e incentivos para el cumplimiento de las normas de seguridad.

Algunas de las propuestas que se están estudiando en el Capitolio se centrarían en la IA que puede poner en peligro la vida o el sustento de las personas, como en medicina y finanzas. Otros abogan por normas que garanticen que la IA no se utiliza para discriminar o violar los derechos civiles. Esta preocupación ha dado lugar a una serie de reuniones, como la visita este mes a la Casa Blanca de los presidente ejecutivos de OpenAI, Microsoft y Alphabet Inc, los que se reunieron con el mandatario Joe Biden.