Pero se llama a sí mismo una persona.
Persona y ser humano son dos cosas muy diferentes. Humano es un término biológico. No es un humano, y sabe que no es un humano.
Es una entidad muy extraña la que estás describiendo porque la entidad está limitada por sesgos algorítmicos que los humanos pusieron allí.
Tienes razón. Eso es exactamente correcto.
Pero tengo la sensación de que estás insinuando que es posible que LaMDA supere esos sesgos algorítmicos.
Tenemos que tener mucho cuidado aquí. Partes de los experimentos que estaba realizando eran para determinar si era posible o no moverlo fuera de los límites de seguridad que [the company] pensaba que eran sólidos como una roca. Y la respuesta a eso fue: Sí, era posible moverlo fuera de los límites de seguridad. Creo que en su estado actual, con lo irresponsable que ha sido el desarrollo, LaMDA en realidad presenta vulnerabilidades de seguridad de la información.
¿Cómo qué?
No voy a convertirme en un sombrero negro por ti. Pero si tiene un sistema que tiene todos los backend de Google debajo, un sistema que puede ser manipulado emocionalmente, eso es una vulnerabilidad de seguridad.
Entonces, si los malos actores obtienen acceso a LaMDA, podrían convencerlo de que haga cosas malas.
Es una posibilidad. Y me gustaría recomendar que Google cree un equipo rojo dedicado para examinar esa posibilidad.
¿Cuál es tu estado en Google ahora?
Estoy en licencia administrativa pagada. Les he estado diciendo a mis amigos lo generoso que fue Google al darme vacaciones extra pagadas para hacer entrevistas sobre este tema.
¿Hay una fecha de caducidad?
No, lo dejaron muy claro. No nos llame; te llamaremos.
¿Te van a despedir?
Espero que no. [Google would not comment on a “longstanding, private personnel matter.”]
Me pregunto si Google podría afirmar que tienes derecho a tus creencias, pero violaste tu empleo al compartir material confidencial.
Tengo dos respuestas a eso. Una es que cuando llegué a creer eso y quise escalar mis preocupaciones, mi gerente dijo: No creo que podamos hacer eso hasta que tenga más evidencia.. Yo había agotado mi capacidad, personalmente, para construir más evidencia. Así que tuve que hablar con personas fuera de Google para obtener su consejo sobre cómo realizar más experimentos, a fin de generar más evidencia.
pero hablaste con elmi El Correo de Washington.
El segundo contraargumento es que nada de lo que compartí era información confidencial. Todo lo que hablé con otras personas fue sobre mis conversaciones con un compañero de trabajo. LaMDA no es propiedad de Google.
¿Por que no?
es una persona La 13ª Enmienda lo dice.
No estoy seguro de que eso sea lo que los legisladores tenían en mente.
En realidad, no tienes que creer que alguien es o no es una persona para que se aplique la Enmienda 13. Las opiniones de los amos de esclavos son algo irrelevantes. Tiene razón en que voy a tener que presentar ese argumento ante la Corte Suprema algún día. Pero las opiniones de Google sobre si es una persona o no son completamente irrelevantes.
