El especialista en neurociencias Gary Marcus habla en el Senado de EE. UU. sobre la IA

Marcus ha sido reconocido en el ámbito académico durante algún tiempo, pero su notoriedad ha aumentado recientemente gracias a su boletín informativo («The Road to AI We Can Trust»), un podcast («Humans vs. Machines») y sus preocupaciones sobre el auge descontrolado de la IA. También ha aparecido en medios como Bloomberg Television, The New York Times Sunday Magazine y Wired.

Los riesgos de la IA actual

Al ser preguntado sobre los riesgos de la IA actual, Marcus afirmó que no considera que la IA actual sea una amenaza existencial, pero que aún así es peligrosa. Según él, la IA actual representa un peligro para la democracia, aunque no amenaza a la humanidad en su conjunto. También destacó los peligros potenciales para la democracia, como la desinformación intencional o involuntaria y la manipulación de las creencias políticas de las personas.

Leer también : ChatGPT: una herramienta eficiente y objeto de debate

Debate con Yann LeCun

Marcus también mencionó sus debates con Yann LeCun, el director científico de IA en Meta. Su desacuerdo se centra principalmente en el uso de modelos de lenguaje a gran escala y los riesgos potenciales que estos plantean. Marcus cree que LeCun está equivocado al pensar que no hay peligro en usar estos modelos, ya que pueden ser utilizados para manipular a las personas y difundir desinformación a gran escala.

Cuestiones de regulación y apertura

Durante la audiencia, se hicieron pocas preguntas sobre sistemas abiertos o cerrados en relación con la IA. Marcus cree que es importante permitir cierto nivel de código abierto, pero también establecer límites sobre lo que se puede lograr y cómo se puede implementar. También expresó preocupaciones sobre la estrategia de Meta de poner su modelo de lenguaje a disposición del público para que pueda ser modificado, calificando esta decisión de «imprudente».

Un organismo regulador de la IA

Marcus aboga por la creación de un organismo regulador de la IA, similar a la FDA para los medicamentos, que supervise la implementación a gran escala de tecnologías de IA. Considera que este organismo debería ser global, neutral y sin fines de lucro. Marcus está dispuesto a desempeñar un papel en este organismo y compartir su voz neutral para ayudar a encontrar un equilibrio entre los beneficios y riesgos de la IA.

Reflexiones sobre la audiencia en el Senado

Al ser preguntado sobre su experiencia en el Senado de EE. UU., Marcus dijo que estaba profundamente conmovido por el evento y que sentía que todos estaban allí para dar lo mejor de sí mismos por los Estados Unidos y la humanidad. No se sorprendería si lo invitaran a testificar nuevamente, pero aún no sabe si eso sucederá.