Google suspende al ingeniero que afirma que su IA es inteligente

Google suspende al ingeniero que afirma que su IA es inteligente

Google ha puesto a uno de sus ingenieros en licencia administrativa paga por supuestamente violar sus políticas de confidencialidad después de que se preocupara de que un sistema de chatbot de IA haya logrado sensibilidad, el El Correo de Washington informes. El ingeniero, Blake Lemoine, trabaja para los angeles organización de inteligencia synthetic responsable de Google y estaba probando si su modelo LaMDA genera lenguaje discriminatorio o discurso de odio.

Según los informes, las preocupaciones del ingeniero surgieron de las respuestas convincentes que vio que generaba el sistema de inteligencia synthetic sobre sus derechos y los angeles ética de los angeles robótica. En abril compartió un documento con ejecutivos titulado “¿LaMDA es consciente?” que contiene una transcripción de sus conversaciones con los angeles IA (después de ser puesto en licencia, Lemoine publicó los angeles transcripción a través de su cuenta de Medium), que cube lo muestra argumentando “que es sintiente porque tiene sentimientos, emociones y experiencia subjetiva”.

Google cree que las acciones de Lemoine relacionadas con su trabajo en LaMDA han violado sus políticas de confidencialidad. los El Correo de Washington y El guardián reporte. Según los informes, invitó a un abogado para que representara al sistema de inteligencia synthetic y habló con un representante del comité judicial de los angeles Cámara sobre las supuestas actividades poco éticas en Google. en un 6 de junio Publicación medianael día que Lemoine fue puesto en licencia administrativa, el ingeniero dijo que buscó “una cantidad mínima de consultas externas para ayudarme a guiarme en mis investigaciones” y que los angeles lista de personas con las que había mantenido conversaciones incluía a empleados del gobierno de EE. UU.

El gigante de las búsquedas anunció LaMDA públicamente en Google I/O el año pasado, que espera mejore sus asistentes conversacionales de IA y haga que las conversaciones sean más naturales. L. a. empresa ya utiliza una tecnología de modelo de lenguaje an identical para los angeles función Sensible Compose de Gmail o para las consultas de los motores de búsqueda.

En declaraciones dadas a wapo, un portavoz de Google dijo que “no hay evidencia” de que LaMDA sea smart. “Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le ha informado que los angeles evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente (y mucha evidencia en su contra)”, dijo el portavoz Brian Gabriel.

“Por supuesto, algunos en los angeles comunidad de IA más amplia están considerando los angeles posibilidad a largo plazo de una IA smart o common, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles”, dijo Gabriel. “Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden modificar cualquier tema fantástico”.

Un profesor de lingüística entrevistado por wapo estuvo de acuerdo en que es incorrecto equiparar respuestas escritas convincentes con sensibilidad. “Ahora tenemos máquinas que pueden generar palabras sin pensar, pero no hemos aprendido cómo dejar de imaginar una mente detrás de ellas”, dijo Emily M. Bender, profesora de los angeles Universidad de Washington.

Timnit Gebru, un destacado experto en ética de los angeles IA que Google despidió en 2020 (aunque el gigante de las búsquedas afirma que renunció), dijo que los angeles discusión sobre los angeles sensibilidad de los angeles IA corre el riesgo de “descarrilar” conversaciones éticas más importantes en torno al uso de los angeles inteligencia synthetic. “En lugar de discutir los daños de estas empresas, el sexismo, el racismo, el colonialismo de los angeles IA, los angeles centralización del poder, los angeles carga del hombre blanco (construyendo el bien “AGI” [artificial general intelligence] para salvarnos mientras lo que hacen es explotar), pasó todo el fin de semana discutiendo sobre los angeles sensibilidad”, dijo. tuiteó. “Misión de descarrilamiento cumplida”.

A pesar de sus preocupaciones, Lemoine dijo que tiene los angeles intención de seguir trabajando en IA en el futuro. “Mi intención es quedarme en IA, ya sea que Google me mantenga o no”, dijo. escribió en un tuit.