Ricerca emergente · in sviluppo
I modelli di AI cambiano. Come sappiamo cosa è cambiato?
Genome è un’iniziativa di ricerca di Cosen Lab: vuole rendere comprensibile come evolve il comportamento di un modello, oltre l’architettura e il numero di versione.
Un modello non è
solo i suoi parametri.
I modelli vengono valutati, adattati, messi a punto ed esposti a contesti che cambiano. Il loro comportamento osservabile può evolvere anche quando l’etichetta di versione dice molto poco.
- 01
Modello
Architettura e parametri definiscono l’oggetto tecnico.
- 02
Contesto
Le condizioni d’uso influenzano ciò che si osserva.
- 03
Cambiamento
Adattamenti e messe a punto possono modificarne il comportamento.
- 04
La domanda
Cosa è cambiato, e da dove arriva il cambiamento?
Dare ai modelli
un’identità di comportamento.
Non una personalità e nemmeno un profilo umanizzato: una rappresentazione di ricerca di ciò che si osserva, confrontabile tra versioni e condizioni diverse.
Comportamento
Ciò che resta riconoscibile nel tempo.
Variazione
Come cambia ciò che si osserva al variare del contesto.
Deriva
Quando il comportamento si allontana da un riferimento.
Discendenza
Da quali versioni e derivazioni proviene un modello.
Un numero di versione dice quale modello abbiamo. Non dice come il suo comportamento è arrivato fin lì.
Un modello dovrebbe avere una storia.
Non solo un numero di versione.
Selezionate le versioni: l’etichetta cambia di poco, mentre l’identità di comportamento può spostarsi molto. Genome lavora per rendere visibile questa differenza e collegarla alla storia del modello.
Ciò che dice l’etichetta
v1.0
Modello di partenza
Un numero di versione dice quale modello abbiamo. Non dice come è cambiato il suo comportamento.
Ciò che Genome vuole rendere visibile
Identità di comportamento · confronto con il riferimento
RiferimentoRappresentazione astratta · non sono dati né metodi reali
Discendenza · schema concettuale
Le versioni sono nodi. Le derivazioni sono relazioni.
Il cambiamento è più utile quando la sua origine resta visibile.
Quattro domande.
Un modello che evolve.
Chi adotta, governa o certifica sistemi di AI ha bisogno di risposte che oggi sono difficili da ottenere.
- Cosa è cambiato?Capire le variazioni di comportamento tra uno stato del modello e l’altro.
- Da dove arriva?Conservare la discendenza che collega versioni e derivazioni.
- Si comporta ancora come previsto?Confrontare ciò che si osserva oggi con un riferimento precedente.
- Possiamo spiegarne l’evoluzione?Collegare cambiamento, valutazione e discendenza in una storia coerente.
Genome è
in costruzione.
Questa pagina descrive la direzione di ricerca, non un sistema completo o prestazioni validate. Metodi e risultati verranno condivisi man mano che il lavoro matura.
- 01
Concetto
Definito
- 02
Ricerca attiva
In corso
- 03
Sperimentazione
Prossima fase
- 04
Collaborazioni pilota
Su invito
Dettagli riservati
Per tutelare il lavoro in corso, metodi e architettura non sono pubblici. Ne parliamo volentieri con partner di ricerca e organizzazioni interessate, nel quadro di un accordo di riservatezza.
I modelli evolvono. Le loro capacità cambiano. Il loro comportamento può derivare. Un numero di versione dice dove si trova un modello. Genome esplora come capire in che modo ci è arrivato.
Capire il modello. Capire la sua evoluzione.
Identità di comportamento per un’AI che cambia. Ricerca emergente di Cosen Lab.