La nostra ricerca
2026
2025
Chimera: State Space Models oltre le sequenze
Aakash Lahoti, Tanya Marwah, Ratish Puduppully, Albert Gu
Segmentazione dinamica per la modellazione gerarchica end-to-end delle sequenze
Sukjun Hwang, Brandon Wang, Albert Gu
Llamba: scalare modelli ricorrenti distillati per un'elaborazione linguistica efficiente
Aviv Bick, Tobias Katsch, Nimit Sohoni, Arjun Desai, Albert Gu
Pensare lentamente, velocemente: scalare il calcolo in inferenza con ragionatori distillati
Daniele Paliotta, Junxiong Wang, Matteo Pagliardini, Kevin Y. Li, Aviv Bick, J. Zico Kolter, Albert Gu, François Fleuret, Tri Dao
Comprendere e migliorare la generalizzazione della lunghezza nei modelli ricorrenti
Ricardo Buitrago Ruiz, Albert Gu
2024
Based: modelli linguistici semplici ad attenzione lineare bilanciano il compromesso tra richiamo e throughput
Simran Arora, Sabri Eyuboglu, Michael Zhang, Aman Timalsina, Silas Alberti, Dylan Zinsley, James Zou, Atri Rudra, Christopher Ré
I transformer sono SSM: modelli generalizzati e algoritmi efficienti attraverso la dualità degli spazi di stato strutturati
Albert Gu*, Tri Dao*
Zoology: misurare e migliorare il richiamo nei modelli linguistici efficienti
Simran Arora, Sabri Eyuboglu, Aman Timalsina, Isys Johnson, Michael Poli, James Zou, Atri Rudra, Christopher Ré
2023
2022
Domino: individuare errori sistematici con embedding cross-modali
Sabri Eyuboglu, Maya Varma, Khaled Saab, Jean-Benoit Delbrouck, Christopher Lee-Messer, Jared Dunnmon, James Zou, Christopher Ré
Modellare in modo efficiente sequenze lunghe con spazi di stato strutturati
Albert Gu, Karan Goel, Christopher Ré
Come addestrare il tuo HiPPO: State Space Models con proiezioni su basi ortogonali generalizzate
Albert Gu, Isys Johnson, Aman Timalsina, Atri Rudra, Christopher Ré
È grezzo! Generazione audio con State Space Models
Karan Goel, Albert Gu, Chris Donahue, Christopher Ré
S4ND: modellare immagini e video come segnali multidimensionali usando spazi di stato
Eric Nguyen, Karan Goel, Albert Gu, Gordon W. Downs, Preey Shah, Tri Dao, Stephen A. Baccus, Christopher Ré