Foresight Ventures: ¿Qué diablos es zkML?

zkML es un puente entre la IA y la cadena de bloques. Su importancia es permitir que la cadena de bloques perciba el mundo físico, permitir que los contratos inteligentes tomen decisiones y ejecutar modelos de IA con protección de la privacidad.

Resumen

• ZKML (aprendizaje automático de conocimiento cero) es una tecnología que utiliza pruebas de conocimiento cero para el aprendizaje automático, ZKML es un puente entre la IA y la cadena de bloques. ZKML puede resolver el problema de la protección de la privacidad del modelo/entrada de IA y el problema de verificación del proceso de razonamiento, de modo que el ZKP de modelo o razonamiento pequeño se pueda cargar en la cadena. La importancia de la cadena de prueba modelo/razonamiento es:
• Deja que la cadena de bloques perciba el mundo físico. Por ejemplo: un modelo de reconocimiento facial que se ejecuta en la cadena de bloques puede percibir la cara de la cadena de bloques, y el modelo de IA en la cadena de bloques puede comprender que la cara puede ser una mujer, qué edad tiene, etc.
• Habilitación de contratos inteligentes para tomar decisiones. Por ejemplo: el modelo de predicción de precios WETH en la cadena puede ayudar a los contratos inteligentes a tomar decisiones de transacción.
• Ejecuta modelos de IA de forma privada. Por ejemplo, una empresa gasta una gran cantidad de poder de cómputo para entrenar un modelo, con la esperanza de brindar servicios de inferencia de una manera protegida por la privacidad, o la entrada del usuario desea garantizar la privacidad. El uso de ZKML no solo puede garantizar la privacidad del modelo/entrada, sino también demostrarle al usuario que el razonamiento se lleva a cabo correctamente, realizando un razonamiento sin confianza.
• Aplicación de ZKML
• IA en la cadena: Coloque el modelo de IA/prueba de razonamiento de IA en la cadena, para que los contratos inteligentes puedan usar IA para tomar decisiones. Por ejemplo, un sistema de comercio en cadena se utiliza para decisiones de inversión en cadena.
• **Cadena de bloques de automejora: **Deje que la cadena de bloques use la capacidad de la IA para mejorar y revisar continuamente las estrategias basadas en datos históricos. Por ejemplo, un sistema de reputación en cadena basado en IA.
• AIGC en cadena: contenido/arte generado por AIGC, Mint en cadena en NFT, ZK puede probar la corrección del proceso, no se utilizan imágenes con derechos de autor en el conjunto de datos, etc.
• Autenticación biométrica (KYC) de la billetera: la prueba de reconocimiento facial se carga en la cadena y la billetera completa KYC.
• Seguridad AI: use AI para la detección de fraudes, prevención de ataques Sybil, etc.
• Juegos ZKML en la cadena: jugadores de ajedrez con inteligencia artificial en la cadena, personajes NFT impulsados por redes neuronales, etc.
• ZKML técnicamente
• Objetivo: Transformar la red neuronal en un circuito ZK Dificultades: 1. El circuito ZK no admite números de coma flotante, 2. Una red neuronal demasiado grande es difícil de convertir.
• Progreso actual:
• La biblioteca ZKML más antigua fue hace 2 años, y el historial de desarrollo de toda la tecnología es muy corto. En la actualidad, la última biblioteca ZKML admite algunas redes neuronales simples ZK y se aplica a la cadena de bloques. Se dice que el modelo básico de regresión lineal se puede cargar en la cadena, y otros tipos de modelos de redes neuronales más pequeños pueden admitir el encadenamiento de prueba. Pero vi muy pocas demostraciones, solo un reconocimiento de dígitos escrito a mano.
• **Algunas herramientas afirman admitir 100 millones de parámetros y algunas afirman convertir GPT2 en un circuito ZK para generar una prueba ZK. **
• Dirección de desarrollo:
• Cuantificación de red (cuantificación de red), convierte los números de punto flotante en la red neuronal en números de punto fijo y aligera la red neuronal (compatible con ZK).
• Intentar convertir la red neuronal con parámetros a gran escala en un circuito ZK y mejorar la eficiencia de la prueba (ampliar la capacidad ZK).
• Resumir:
• ZKML es un puente entre la IA y la cadena de bloques, su importancia es permitir que la cadena de bloques perciba el mundo físico, permitir que los contratos inteligentes tomen decisiones y ejecutar modelos de IA con protección de la privacidad**, **es una tecnología muy prometedora .
• La historia de esta tecnología es muy corta pero se está desarrollando muy rápido. En la actualidad, algunos modelos simples de redes neuronales se pueden transformar en circuitos ZK, que se pueden usar para el encadenamiento de modelos o el encadenamiento de pruebas de razonamiento. Pero el lenguaje es relativamente difícil. En la actualidad, Ddkang/zkml afirma que puede generar la versión ZK del modelo de procesamiento de lenguaje natural GPT2, Bert y Diffusion, pero no está claro el efecto real. Puede ejecutarse, pero es posible que no pueda para ser subido a la cadena. Creo que con el desarrollo de la tecnología de volumen de red, la tecnología ZK y la tecnología de expansión de blockchain, el modelo de lenguaje ZKML pronto estará disponible.

1. Antecedentes

(Si sabe algo sobre ZK, ML, puede saltarse este capítulo).

• **Prueba de conocimiento cero (ZK): **Prueba de conocimiento cero significa que el probador puede convencer al verificador de que cierta afirmación es correcta sin proporcionar ninguna información útil al verificador. ZK se utiliza principalmente para demostrar que el proceso de cálculo se realiza correctamente y para proteger la privacidad.
• Demostrar la corrección del proceso de cálculo: Tome ZK-rollup como ejemplo, la operación de ZK-rollup es simplemente empaquetar varias transacciones juntas, publicarlas en L1 y emitir una prueba al mismo tiempo (usando tecnología de prueba de conocimiento cero) para afirmar que estas transacciones son válidas, una vez que se verifique en L1 que son válidas, se actualizará el estado de zk-rollup.
• Protección de privacidad: Tomando el protocolo Aztec como ejemplo, los activos en zk.money de Aztec existen en forma de facturas, similar al UTXO de Bitcoin, el monto de la factura está encriptado, cuando el usuario necesita transferir dinero , la factura debe destruirse y crear nuevas notas para el beneficiario y para usted mismo (cambio). La prueba de conocimiento cero se utiliza para proteger la privacidad y demostrar que la cantidad del billete destruido es la misma que la del billete recién creado, y el usuario tiene derecho a controlar el billete.
• Aprendizaje automático: El aprendizaje automático es una rama de la inteligencia artificial. La teoría del aprendizaje automático consiste principalmente en diseñar y analizar algunos algoritmos que permiten a las computadoras "aprender" automáticamente. Los algoritmos de aprendizaje automático analizan y obtienen automáticamente las leyes de los datos, y usan las leyes para predecir datos desconocidos. El aprendizaje automático se ha utilizado ampliamente en visión por computadora, procesamiento de lenguaje natural, reconocimiento biométrico, motores de búsqueda, diagnóstico médico, detección de fraude con tarjetas de crédito, análisis del mercado de valores, secuenciación de ADN, reconocimiento de voz y escritura, juegos y robótica.

**2.¿Qué problema resuelve ZKML? **

ZKML es un área de investigación y desarrollo que ha causado revuelo en la comunidad criptográfica en los últimos dos años. Usando la prueba de conocimiento cero para el aprendizaje automático**, el objetivo principal de esta tecnología es usar la prueba de conocimiento cero para resolver la protección de la privacidad y los problemas verificables del aprendizaje automático. De esta forma, el modelo pequeño o ZKP de razonamiento puede subirse a la cadena y convertirse en un puente entre la IA y blockchain:

• Encadenamiento de modelos: los modelos ML se pueden convertir en circuitos ZK, y los modelos ZKML pequeños se pueden almacenar en el contrato inteligente de la cadena de bloques. Los usuarios pueden usar el modelo llamando a métodos de contrato inteligente. Por ejemplo, RockyBot de Modulus Labs creó un modelo de IA en la cadena para predecir el precio de WETH para las decisiones comerciales.
• Modelo de prueba de razonamiento, etc. en la cadena: convierta el modelo ML en un circuito ZK, realice el razonamiento fuera de la cadena y genere una prueba ZK. Las pruebas ZK pueden demostrar que el proceso de razonamiento se realiza correctamente. Los resultados del razonamiento y la prueba ZK se envían a la cadena como referencia por parte de la persona que llama y la prueba de verificación del contrato inteligente.

** ¿Cuál es el significado de la demostración del modelo/razonamiento en la cadena? **

• Deja que la cadena de bloques perciba el mundo físico. Por ejemplo: un modelo de reconocimiento facial que se ejecuta en la cadena de bloques puede percibir la cara de la cadena de bloques, y el modelo de IA en la cadena de bloques puede comprender que la cara puede ser una mujer, qué edad tiene, etc.
• Habilitación de contratos inteligentes para tomar decisiones. Por ejemplo: el modelo de predicción de precios WETH en la cadena puede ayudar a los contratos inteligentes a tomar decisiones de transacción.
• Ejecuta modelos de IA de forma privada. Por ejemplo, una empresa gasta una gran cantidad de poder de cómputo para entrenar un modelo, con la esperanza de brindar servicios de inferencia de una manera que preserve la privacidad, o la entrada del usuario desea garantizar la privacidad. El uso de ZKML no solo puede garantizar la privacidad del modelo/entrada, sino también demostrarle al usuario que el razonamiento se lleva a cabo correctamente, realizando un razonamiento sin confianza.

La prueba de conocimiento cero demuestra el papel en ZKML:

**1. Protección de la privacidad: proteja la privacidad de los datos de entrada en el modelo ML o el proceso de predicción. **

• **Privacidad de datos (modelo público + datos privados): **Tengo algunos datos confidenciales, como datos médicos, imágenes de rostros, etc. Puedo usar ZKML para proteger la privacidad de los datos de entrada, ejecutar el modelo de red neuronal pública en estos datos y obtener el resultado. Por ejemplo, modelos de reconocimiento facial,
• Privacidad del modelo (modelo privado + datos públicos): por ejemplo, gasto mucho dinero para entrenar al modelo. No quiero exponer mi modelo, así que necesito proteger la privacidad del modelo. Puedo usar ZKML para ejecutar un modelo de red neuronal privada que preserva la privacidad, y este modelo puede inferir información pública para obtener resultados.

**2. Verificabilidad: ZKP se utiliza para probar la correcta ejecución del proceso de razonamiento de ML, lo que hace que el proceso de aprendizaje automático sea verificable. **

• Supongamos que la ejecución del modelo no está en mi servidor, pero necesito asegurarme de que la especulación se ejecute correctamente. Puedo usar ZKML para realizar una inferencia en una entrada y un modelo, produce una salida, ZKP puede probar que este proceso se ejecuta correctamente, incluso si el proceso en ejecución no está en mi computadora, puedo verificar que la inferencia es correcta al verificar el ZKP implementado, y así creer en el resultado.

3. Casos de uso para ZKML

• ** INTEGRACIÓN INFORMÁTICA **
• **On-chain AI (On-chain AI): **Implementar el modelo de IA en la cadena de bloques, para que los contratos inteligentes puedan tener capacidades de toma de decisiones a través del modelo de IA.
• Modulus Labs: RockyBot Bot comercial de aprendizaje automático verificable en cadena (un robot comercial de aprendizaje automático verificable en la cadena de bloques)
• Cadena de bloques de automejora: Deje que la cadena de bloques utilice la capacidad de la IA para mejorar y corregir estrategias continuamente en función de los datos históricos.
• AMM mejorado de Lyra Finance con inteligencia artificial.
• Crear un sistema de reputación basado en IA para Astraly.
• Crear funciones de cumplimiento basadas en IA a nivel de contrato inteligente para el protocolo Aztec
• Modulus Labs: Blockchains que se automejoran (enlace):
• AIGC en cadena: contenido/arte generado por AIGC, Mint en cadena en NFT, ZK puede probar la corrección del proceso, no se utilizan imágenes con derechos de autor en el conjunto de datos, etc.
• Transparencia de ML como servicio (MLaaS) (enlace)
• Seguridad AI: use AI para la detección de fraudes, prevención de ataques Sybil, etc. El modelo de detección de anomalías de IA se entrena de acuerdo con los datos del contrato inteligente, y el contrato se suspende si el indicador es anormal, y ZK se usa para la detección de anomalías para demostrar que está en cadena.
• Juegos ZKML en la cadena: jugadores de ajedrez con inteligencia artificial en la cadena, personajes NFT impulsados por redes neuronales, etc.
• Prueba de referencia del modelo de IA verificable: use ZK para proporcionar una prueba de prueba de referencia del modelo y proporcione verificabilidad para los resultados de la prueba del rendimiento y el efecto del modelo.
• Prueba de corrección del entrenamiento de modelos: dado que el entrenamiento de modelos requiere muchos recursos, la prueba de corrección del entrenamiento de modelos con ZK no está disponible actualmente, pero muchas personas piensan que la tecnología es factible e intentan usar ZK para demostrarlo. el modelo usa ciertos datos / no usa ciertos datos para resolver el problema de derechos de autor de AIGC.
• protección de la privacidad
• Autenticación biométrica/identidad digital para billeteras *WordCoin está escaneando el iris con el dispositivo biométrico Orb, proporcionando a los usuarios una identidad digital verificable única. WorldCoin está trabajando en zkml, que se planea utilizar para actualizar World ID. Después de la actualización, los usuarios podrán mantener de forma autónoma la biometría de su firma en el almacenamiento cifrado de sus dispositivos móviles, descargar el modelo ML generado por el código iris, y crear pruebas de conocimiento cero a nivel local, lo que demuestra que su código de iris se generó a partir de la imagen de la firma usando el modelo correcto.
• Plataforma de recompensas de aprendizaje automático basada en blockchain
• La empresa emite recompensas y proporciona datos públicos y privados. Los datos públicos se usan para entrenar el modelo y los datos privados se usan para predecir. Algunas partes del servicio de IA entrenan el modelo y lo convierten en un circuito ZK. Cifre el modelo y envíelo al contrato para su verificación. Para datos privados, haga predicciones, obtenga resultados y genere pruebas ZK, que se envían al contrato para su verificación. Los proveedores de servicios de IA reciben recompensas después de completar una serie de operaciones. zkML: demostración de circomlib-ml en la red de prueba de Goerli
• Razonamiento para preservar la privacidad: por ejemplo, usar datos privados de pacientes para diagnósticos médicos y luego enviar inferencias confidenciales (como resultados de detección de cáncer) al paciente. (documento de vCNN, página 2/16)

4. Diseño de ZKML

A juzgar por el diseño ZKML organizado por SevenX Ventures.

• Aceleración de hardware: muchas organizaciones están desarrollando activamente la aceleración de hardware ZKP, que también favorece el desarrollo de ZKML. Generalmente, los chips FPGA, GPU y ASIC se utilizan para acelerar la generación de ZKP. Por ejemplo: Accseal está desarrollando chips ASIC para la aceleración de hardware ZKP e Ingonyama está construyendo una biblioteca de aceleración ZK ICIClE, que está diseñada para GPU compatibles con CUDA. Supranational se enfoca en la aceleración de GPU, Cysic y Ulvetanna se enfocan en la aceleración de FPGA.
• Entrada: para utilizar la entrada de datos en cadena, Axiom, Herodotus, Hyper Oracle, Lagrange mejorarán el acceso de los usuarios a los datos de la cadena de bloques y proporcionarán vistas de datos en cadena más complejas. Los datos de entrada de ML se pueden extraer de los datos históricos importados
• razonamiento: ModulusLabs está desarrollando un nuevo sistema zkSNARK específicamente para ZKML. Esta parte se puede fusionar con el conjunto de herramientas ZKML, principalmente para la ZKización del modelo y el conjunto de herramientas necesario en el proceso de ZKización. Giza es una plataforma de aprendizaje automático basada en StarkNet* que *se centra en el escalado de implementación del modelo totalmente en cadena.
• Computación: concéntrese en construir una red informática descentralizada para entrenar modelos de IA accesibles para todos. Permiten que las personas utilicen recursos informáticos de vanguardia para entrenar modelos de IA a un costo menor.
• Entrenamiento descentralizado/potencia informática: concéntrese en construir una red informática descentralizada para entrenar modelos de IA a los que todos puedan acceder. Permiten que las personas utilicen recursos informáticos de vanguardia para entrenar modelos de IA a un costo menor.
• Conjunto de herramientas ZKML: Consulte el Capítulo 5 Historial de desarrollo tecnológico. ZAMA en la figura utiliza principalmente cifrado totalmente homomórfico (FHE) para la protección de la privacidad del aprendizaje automático. En comparación con ZKML, FHEML solo protege la privacidad y no realiza la verificación sin confianza.
• Caso de uso: Worldcoin, utilizando ZKML para la autenticación de identidad digital. Los datos biométricos de la firma del usuario se cifran y almacenan en el dispositivo del usuario, y el modelo de aprendizaje automático del reconocimiento de iris basado en ZK ejecuta el modelo durante el reconocimiento de identidad para verificar si los datos biométricos coinciden. Use ZKP para probar la corrección del proceso en ejecución. Modulars Labs es un robot comercial de IA en la cadena. EIP7007 de Cathie, estándar zkML AIGC-NFT. Ajedrecistas con inteligencia artificial en cadena, personajes NFT impulsados por redes neuronales, etc.

5. Historial de desarrollo de la tecnología ZKML

Los principales desafíos para convertir una red neuronal en un circuito ZK son:

1. Los circuitos requieren operaciones de punto fijo, pero los números de punto flotante se usan mucho en las redes neuronales.
2. El problema del tamaño del modelo, la conversión de modelos grandes es difícil y el circuito es grande.

El historial de desarrollo de la biblioteca ZKML es el siguiente:

1.2021, zk-ml/regresión-lineal-demostración, Peiyuan Liao

• Realizó el circuito de regresión lineal. La regresión lineal es un algoritmo de predicción muy básico, que asume una relación lineal entre la variable de salida y la variable de entrada, y es adecuado para predecir variables numéricas y estudiar la relación entre dos o más variables. . Por ejemplo: predecir los precios de la vivienda en función del tamaño de la casa y otras características, o predecir las ventas futuras en función de los datos históricos de ventas, etc.

Año 2,2022, 0xZKML/zk-mnist, 0xZKML

• Hizo un circuito ZK de red neuronal basado en el conjunto de datos MNIST, que puede reconocer números escritos a mano. Por ejemplo: escribir a mano un número 2, la escritura a mano se reconoce como 2 y se genera una prueba de proceso de razonamiento**. **La prueba se puede cargar en la cadena y la prueba en la cadena se puede verificar con ethers + snarkjs.
• De hecho, la biblioteca zk-mnist actualmente solo convierte la última capa en un circuito, pero no convierte la red neuronal completa en un circuito.

3. 2022, socathie/zkML, Cathie

• En comparación con zk-mnist, ZKML convierte una red neuronal completa en un circuito. zkMachineLearning de Cathie proporciona varios kits de herramientas ZKML cirocmlib-ml y keras2circcom para ayudar a los ingenieros de ML a convertir modelos en circuitos.

4. noviembre 2022, zk-ml/uchikoma, Peiyuan Liao

• Transferir operaciones de punto flotante en redes neuronales a operaciones de punto fijo. Creó y abrió una herramienta general y un marco que convierte casi cualquier algoritmo de aprendizaje automático en un circuito de prueba de conocimiento cero que se integra fácilmente con blockchains.
• Modelo visual -> AIGC
• Modelo de lenguaje -> chatbot, asistente de redacción
• Modelos lineales y árboles de decisión -> Detección de fraude, prevención de ataques Sybil
• Modelo multimodal -> sistema de recomendación
• Entrenó un modelo de aprendizaje automático de generación de contenido compatible con blockchain (AIGC) y lo convirtió en un circuito ZK. Úselo para generar obras de arte, generar pruebas ZK concisas y, finalmente, acuñar la obra de arte en NFT.

5. julio de 2022, actualizado en marzo de 2023, zkonduit/ezkl

• ezkl es una biblioteca y una herramienta de línea de comandos para la inferencia en modelos de aprendizaje profundo y otros gráficos computacionales en zk-snark (ZKML). Utilice Halo2 como sistema de prueba.
• Es posible definir un gráfico de cálculo, como una red neuronal, y luego usar ezkl para generar un circuito ZK-SNARK. Los ZKP generados para inferencia se pueden verificar con contratos inteligentes.
• Se dice que es un modelo que puede admitir 100 millones de parámetros, pero puede consumir muchos recursos.

6. mayo 2023, Ddkang/zkml (Enlace)

• zkml afirma usar ZK para convertir modelos GPT2, Bert y Diffusion. Pero puede usar mucha memoria y no está claro si la prueba se puede almacenar en el contrato inteligente.
• zkml puede verificar la ejecución del modelo con una precisión del 92,4 % en ImageNet y también puede probar un modelo MNIST con una precisión del 99 % en en cuatro segundos.

7. mayo 2023, zkp-gravedad/0g

• Red neuronal ligera, compatible con datos privados + modelo público.

En general, podemos ver la dirección de exploración actual de la tecnología ZKML:

1. Cuantificación de red, convierta los números de punto flotante de la red neuronal en números de punto fijo y aligere la red neuronal (compatible con ZK).
2. Intente convertir la red neuronal con parámetros a gran escala en un circuito ZK y mejore la eficiencia de la prueba (expanda la capacidad ZK).

6. Resumen

1. ZKML es un puente entre la IA y la cadena de bloques. Su importancia es permitir que la **cadena de bloques perciba el mundo físico, permita que los contratos inteligentes tomen decisiones y ejecute modelos de IA con protección de la privacidad. Es una tecnología muy prometedora .
2. La historia de ZKML es muy corta y su desarrollo es muy rápido. En la actualidad, algunos modelos simples de redes neuronales se pueden convertir en circuitos ZK, y los modelos se pueden cargar en la cadena o las pruebas de razonamiento se pueden cargar en la cadena. El modelo de lenguaje es relativamente difícil. En la actualidad, Ddkang/zkml afirma ser capaz de generar la versión ZK del modelo GPT2, Bert y Diffusion. Creo que con el desarrollo de la tecnología de volumen de red, la tecnología ZK y la tecnología de expansión de blockchain, el modelo de lenguaje ZKML pronto estará disponible.