Asociación Financiera 22 de mayo (editor Zhou Ziyi)Ante la inteligencia artificial que puede desarrollarse rápidamente, la capacidad de respuesta de riesgo global no parece estar en camino.
Con motivo de la segunda Cumbre de Seguridad de Inteligencia Artificial (21 al 22 de mayo) celebrada en Seúl, Corea del Sur, 25 científicos de inteligencia artificial del mundo publicaron conjuntamente un consenso experto en la revista «Science». El mundo no es suficiente para proteger a los seres humanos de la cría de tecnología.
En el documento, describen la prioridad de las políticas de emergencia que los líderes globales deben adoptar para responder a la amenaza de la tecnología de inteligencia artificial.
Sugerencias importantes
Los escritores de este documento incluyen 25 expertos académicos de inteligencia artificial y gobernanza mundial como Geoffrey Hinton, Andrew Yao, Dawn Song, Daniel Kahneman.Estos autores provienen de los Estados Unidos, China, la Unión Europea, el Reino Unido y otros poderes de inteligencia artificial, incluido el ganador de Turing, el ganador del Premio Nobel y el autor del libro de texto de inteligencia artificial estándar.
Estos científicos señalaron que los líderes en el mundo deben tratar seriamente la posibilidad de desarrollar un sistema de inteligencia artificial (AGI) fuerte en la década actual o en los próximos diez años.
También dijeron que aunque los gobiernos de todo el mundo han estado discutiendo la inteligencia artificial de recorte y haciendo algunos intentos en la introducción de la orientación preliminar, no es como la posibilidad de que muchos expertos esperen el progreso rápido y de la reforma.
El profesor Philip Torr, del Departamento de Ciencias de la Ingeniería de la Universidad de Oxford y el Departamento de Ciencias de la Ingeniería de la Universidad de Oxford, dijo: «En la última cumbre de inteligencia artificial, todo el mundo acordó tomar medidas, pero es hora de cambiar de sugerencias difusas a compromisos específicos «.
Este documento proporciona algunas sugerencias importantes para que la empresa y el gobierno lo prometan, que incluyen:
Establezca una agencia de expertos que pueda responder rápidamente a los riesgos para supervisar la inteligencia artificial y proporcionar más fondos para estas instituciones.
Evaluación de riesgos más estricta y resultados ejecutables, en lugar de depender de evaluaciones de modelo voluntarias o poco claras.
Las compañías de inteligencia artificial deben dar prioridad a la seguridad y demostrar que sus sistemas no causarán daños, y los desarrolladores de inteligencia artificial deberían considerar la seguridad.
Implemente los estándares de liberación lenta de riesgo consistente con el nivel de nivel de riesgo compuesto por un sistema de inteligencia artificial.Se deben establecer estrategias apropiadas para desencadenar automáticamente requisitos estrictos cuando la inteligencia artificial cumple con ciertos hitos de capacidades;
Vale la pena mencionar que en la Cumbre de Inteligencia Artificial el martes (21 de mayo) Hora local, Microsoft, Amazon, OpenAi y otros gigantes tecnológicos llegaron a unProtocolo internacional con un significado de kilometrajeEsencia
Según este acuerdo, muchas empresas se comprometen, incluida la emisión de un marco de seguridad para enumerar los riesgos potenciales; Proceso de desarrollo del modelo.
Líder de supervisión del gobierno
Según el autor, el gobierno debe preparar el papel principal en la supervisión para el sistema anormal de inteligencia artificial en el futuro.Esto incluye: permite el desarrollo de estos sistemas, restringe su autonomía en roles sociales clave, detiene su desarrollo y despliegue en respuesta a funciones preocupantes, control de acceso forzado y requiere fuertes medidas de seguridad de la información para la esencia de los hackers nacionales esencial.
El profesor de ciencias de la computación, la Universidad de California, Berkeley, y el autor del libro de texto de inteligencia artificial estándar mundial, Stuart Russell OBE OBE, dijo: «Esta es una disertación alcanzada por los principales expertos, que hace que el gobierno supervise estrictamente, en lugar de formular comportamientos voluntarios por parte de la industria para formular voluntariamente el código.
