Lo que necesitas para iniciar con Gen AI utilizando PaLM 2 y MakeSuite
Tags: ai, machinelearning, gen, beginners
Published: 2023-09-30 02:21:22

En este post te explico cómo puedes empezar a trabajar de manera simple y rápida con Gen AI utilizando PaLM 2 y MakeSuite.

## ¿Qué son los Large Language Models (LLMs)?

Una manera graciosa de verlo es como “autocomplete” super poderoso. 

Pero siendo serio, es un modelo de lenguaje extenso que ha sido entrenado con una gran cantidad de datos. Estos datos pueden ser cualquier cosa, desde libros y artículos hasta código y correos electrónicos. Lo importante es saber que el modelo aprende a identificar patrones en los datos y utilizarlos para generar texto nuevo.

## ¿Qué es un prompt?

Es un texto escrito en lenguaje natural que se envía a un “language model” (LM) con el objetivo de recibir una respuesta.

Hay tres tipos de contenido que puede existir en un prompt:

**1. Input (requerido)**: Es el texto con la solicitud que le estas haciendo al LM. Pueden ser preguntas, una tarea o un input parcial para que el modelo lo completo, por ejemplo

Le hice la consulta a Bard y me dio como respuesta lo siguiente:
    
![Ejemplo de la repuesta de Bard](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/h6ynegrt632binax09ri.png)

**2. Contexto (opcional):** Pueden ser alguno de estos dos:

• Instrucciones especificas de como el modelo se debe de comportar
• Información que el modelo pueda usar para generar una respuesta

![Prompt de contexto](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/bywfrhm87p9niz1b0kxt.png)


**3. Ejemplos (opcional):** Son prompts que tienen pares de un input y un output (si suena confuso), pero es darle ejemplos al modelo de los resultados que esperas según la consulta que le estas haciendo.

![Prompt de ejemplos](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/wow8ulc3mdbxfn88pu2k.png)

## ¿Qué es PaLM2?

Es la segunda versión del modelo de inteligencia artificial de última generación de Google. Su nombre realmente significa “Parallel Learning Machine 2”. 

Una de las herramientas que actualmente utiliza PaLM2 es Bard.

Los ejemplos anteriores provienen de Bard.

## ¿Cómo puedo utilizar PaLM2 si no soy un experto en Machine Learning?

Aquí es donde MakeSuite nos facilita a la vida a los que apenas estamos aprendiendo. MakeSuite es un IDE en el navegador que permite probar diferentes modelos y experimentar con diferentes prompts. 

Existent 3 tipos de prompts con los que puedes trabajar en en MakeSuite

- Text Prompt
- Data Prompt
- Chat Prompt
- Tune a model

![Imagen de los diferentes prompts disponibles](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/2z6es7ifw15k5e9sht2g.png)

## Text prompt

Esta es una opción libre, sencilla y rápida para poder explorar los modelos. En el ejemplo se le pide al modelo que resuma un poema. Después de analizarlo, entrega su respuesta.

![Ejemplo de text prompt](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/ge04avkfn7ps2gdjauow.gif)

## Data Prompt

De manera más simple, puedes proporcionar información al modelo en forma de tabla. En este ejemplo puedes ver como se le dice al modelo que debe de encontrar la palabra opuesta. Algo muy atractivo de esta opción es que puedes importar CSV o un Google Sheet y de esa manera llenar la tabla mucho más rápido.

![Data prompt](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/8c3b9ikj9qkmltj7yoiv.gif)

## Chat Prompt

Este es el que probablemente te resulte familiar dado que es similar a ChatGPT, donde puedes tener una conversación con el modelo, realizarle preguntas y te dará respuestas

En el lado izquierdo puedes proporcionar contexto,  y ejemplos para que el modelo entienda como debe de responder. Lo recomendable es que al menos les de dos ejemplos. 

![Ejemplos para entrenar chatbot](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/ax4gwpk47yytqpl6cymd.png)


Al lado derecho está la consola de pruebas donde puedes interactuar con el modelo


![Consola de testing del chatbot](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/hquedfnjivkhf8fto7gh.png)


En todos estos prompts tienes la opción de ajustarlos, por ejemplo decidirle que modelo utilizar, también la temperatura(que tan creativas quieres que sean las respuestas) entre otras cosas

![Tune settings](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/30uz5m6kbbaweg96fw8b.png)

## Tune a model

Por último, con esta opción puede crear un modelo y ajustarlo directamente con la información que deseas. 

Lo más hermoso de todo esto es que, después de experimentar un rato, solo tienes que hacer clic en “Get Code” y te proporcionará el código para que puedas implementar PaLM 2 en diferentes lenguajes de programación.

![Código generador](https://dev-to-uploads.s3.amazonaws.com/uploads/articles/l7athjmrmdutvi43lji8.png)
 

Antes de que te vayas, no olvides dejar ese like para que otros puedan ver este post! ❤️