Come interagire con un LLM in Node.js

  • Node.js
  • Gabriele Romanato

I Large Language Model (LLM), come quelli offerti da OpenAI, possono essere integrati facilmente in applicazioni Node.js. In questo articolo vedremo come configurare l’ambiente, effettuare chiamate API e gestire la risposta del modello.

Prerequisiti

Prima di iniziare, assicurati di avere:

  • Node.js installato
  • Un account su OpenAI e una chiave API

Installazione delle dipendenze

Crea una nuova directory e inizializza un progetto Node.js: 

mkdir llm-node-example
cd llm-node-example
npm init -y

Installa il pacchetto ufficiale di OpenAI: 

npm install openai

Configurazione dell'API

Crea un file index.js e imposta la configurazione base per accedere al modello: 

const { OpenAI } = require('openai');

const openai = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
});

Assicurati di esportare la variabile OPENAI_API_KEY nel tuo ambiente o utilizzare un file .env con dotenv.

Inviare una richiesta al modello

Ecco un esempio base di come inviare un prompt al modello GPT e ricevere una risposta: 

(async () => {
  const response = await openai.chat.completions.create({
    model: "gpt-4",
    messages: [{ role: "user", content: "Qual è la capitale della Francia?" }],
  });

  console.log(response.choices[0].message.content);
})();

Considerazioni sulla sicurezza

Evita di esporre direttamente la tua chiave API nel codice. Utilizza variabili d’ambiente o strumenti come dotenv per una gestione sicura delle credenziali.

Conclusione

Interagire con un LLM da Node.js è semplice e diretto grazie alle librerie ufficiali. Questo permette di creare applicazioni intelligenti e interattive con pochi passaggi.

Torna su