L’AI cresce. E, con lei, aumentano anche le difficoltà delle infrastrutture

“Ora c’è una capacità di drag-and-drop che crea automaticamente un database vettoriale”, rileva ancora Bostrom. “Abbiamo un assistente con il quale possiamo inserire un migliaio di file, quindi non abbiamo bisogno di acquistare il nostro archivio vettoriale”.

Con il cambiamento arriva anche la scelta

La decisione di Spirent di utilizzare un cloud pubblico per l’archiviazione dei dati è un approccio popolare. Secondo un sondaggio tra grandi aziende pubblicato quest’estate da Flexential, il 59% utilizza cloud pubblici per archiviare i dati di cui ha bisogno per l’addestramento e l’inferenza dell’AI, mentre il 60% si avvale di fornitori di colocation e il 49% di infrastrutture on-premise. Inoltre, quasi tutte le aziende hanno una roadmap sull’AI, con più della metà che prevede di aumentare gli investimenti in infrastrutture per soddisfare la necessità di un maggior numero di carichi di lavoro sull’intelligenza artificiale. Tuttavia, le imprese stanno guardando oltre i cloud pubblici per le loro esigenze di AI computing, e l’opzione più popolare, utilizzata dal 34% delle grandi aziendali, sono i fornitori specializzati di GPU-as-a-service.

Prendiamo, per esempio, l’azienda di outsourcing di processi aziendali TaskUs, che sta vedendo la necessità di maggiori investimenti nell’infrastruttura via via che aumenta le sue implementazioni di AI generativa. La sfida non è strabiliante, ritiene il suo CIO Chandra Venkataramani, ma significa che l’azienda deve stare attenta a tenere sotto controllo i costi. “Non vogliamo lasciarci trasportare dalla tecnologia e impazzire con essa”, afferma. In particolare, TaskUs deve spostare più calcoli e dati avanti e indietro.