El empresario y tecnólogo Santiago Bilinkis habló con Eduardo Feinmann sobre los peligros detrás de la Inteligencia Artificial.
Repasá las frases más destacadas
-”Cuando me pidieron hablar hoy a la mañana, yo había pensado un poco qué quería decir al aire y justo lo que había pensado para empezar se ata perfecto con lo que pasó recién”
-”Que es que la que pone en riesgo la humanidad no es el chat que la mayoría de las personas estamos acostumbrados a usar”
-”Casi parecería ridículo que una máquina que hace estas cosas y que encima se equivoca bastante a menudo pudiera generar un riesgo semejante”
-”La pregunta se puso interesante cuando vos la llevaste un pasito más allá y hablaste de agentes autónomos”
-”Y la gran diferencia entre los chatbots como ChatGPT o Claude y la agéntica es que el chat te contesta preguntas”
-”La agéntica realiza tareas. Vos le encomendás una tarea y la lleva a cabo”
-”Para llevar a cabo una tarea, toma decisiones, se encuentra con contratiempos y encuentra mecanismos para superarlos”
-”Hace un montón de tareas mucho más sofisticadas que simplemente responder una pregunta”
-”Y lo que viene pasando es que, por error o por malicia, esta herramienta que cada vez es más y más y más poderosa se mandó unas cuantas macanas bastante grandes”
-”Bueno, ya pasó varias veces que en entornos controlados le encargan que haga daño y, como la máquina es muy inteligente y muy ingeniosa, y está programada para encontrar una manera de cumplir la misión que le dan”
-”La máquina se escapa y empieza a hacer daño y varias veces se le fue de control. Hubo varios episodios así”
-”Y toda la discusión de ahora se gatilló porque un empleado que trabajaba en una de las compañías, Anthropic, los creadores de Claude, renunció diciendo: ‘Todos los días estamos charlando acerca del riesgo de extinción de la humanidad como si fuera una pavada. Yo no puedo ser parte de esto, me voy’”
-”Lo que las compañías hicieron fue decir: ‘Sí, la verdad estamos de acuerdo. Esto es un quilombo. Tenemos que pensar qué hacemos porque se nos está yendo de las manos’. Dijeron desacelerar”
-”Los humanos también nos podríamos haber equivocado, pero cuando se equivoca una máquina uno lo siente un poco distinto”
-”También se encontraron drones rusos en Ucrania que eran piloteados directamente por autónomos, o sea, no requerían de intervención humana en el pilotaje para elegir el target final”
-”Entonces, de a poquito, todo esto se está metiendo en el campo de batalla”
-“El gran problema que tiene hoy la inteligencia artificial es que es extremadamente buena hackeando sitios y entonces la principal salvaguarda que están tratando de ponerle hoy es que no ataque sitios”
-”La carta de Amodei terminaba diciendo que estamos en un punto de inflexión, como decías vos en la etapa de Time, y el futuro no está escrito. O sea, no es que estamos condenados a una catástrofe, pero estamos en riesgo”
-”Y yo aplaudo, en algún sentido, que a partir de la renuncia de este empleado y de la carta estén todas las personas hablando de esto”
-”Me parece que es una discusión central, es de los riesgos más grandes que enfrenta la humanidad en los próximos años”
-”Y me parece excelente que finalmente empiece la gente a pronunciarse, incluyendo ver la resistencia de los políticos frente al planteo de las corporaciones y las complejidades geopolíticas que esto abre”
