Cum se planifică capacitatea de calcul IA on-premise în sănătate
Când o țară decide că datele de sănătate ale cetățenilor săi trebuie procesate pe teritoriul național, următoarea întrebare este de câtă capacitate de calcul este nevoie. Un răspuns greșit costă scump în ambele direcții. Prea puțină capacitate, iar tomografia unui pacient cu accident vascular cerebral așteaptă la coadă în spatele unei sarcini de cercetare. Prea multă, iar banii publici stau nefolosiți. Capacitatea pentru inteligența artificială (IA) în sistemul național de sănătate nu este un singur număr. Este suma mai multor sarcini de lucru cu profiluri diferite, plus redundanță, medii de testare și spațiu de creștere. Acest articol prezintă o metodă practică de planificare, folosind ca exemplu aplicat aria de acoperire a Programului Național de Digitalizare a Sistemului de Sănătate al Republicii Moldova.
Pasul 1: separați tipurile de sarcini de lucru
IA în sănătate combină trei tipuri de sarcini de calcul. Ele se comportă atât de diferit încât trebuie planificate separat.
| Sarcină de lucru | Exemple tipice | Ce determină dimensionarea |
|---|---|---|
| Inferență în timp real | Triaj imagistic, verificarea interacțiunilor medicamentoase la prescriere, alerte de deteriorare | Sarcina de vârf și ținta de latență. Capacitatea trebuie să existe în momentul în care sosește cererea. |
| Antrenare și ajustare fină | Adaptarea modelelor la datele naționale, reantrenare periodică, rulări de validare | Dimensiunea modelului, dimensiunea setului de date și frecvența necesară a reantrenării. Sarcinile pot fi programate. |
| Procesare în lot (batch) | Analiza genomurilor, scorarea nocturnă a riscului populațional, reevaluări retrospective, rulări de prognoză | Volumul total pe zi sau pe lună. Debitul contează mai mult decât latența. |
Distincția esențială este între sarcinile limitate de latență și cele limitate de debit. O sarcină batch poate rula noaptea sau poate aștepta o oră. O suspiciune de hemoragie intracraniană nu poate. O planificare care adună totul într-o singură cifră medie ascunde această diferență, iar cele care au de suferit sunt nivelurile serviciilor clinice.
Pasul 2: calculați memoria necesară pentru modelele rezidente, nu doar puterea de calcul
Pentru modelele moderne de IA, constrângerea decisivă este adesea memoria acceleratorului, nu viteza brută de calcul. Un model poate răspunde rapid doar dacă ponderile sale sunt deja încărcate, adică rezidente, în memoria acceleratorului. Încărcarea unui model mare din stocare poate dura minute, ceea ce este inacceptabil într-un flux de lucru clinic.
O regulă simplă pentru inferență
Ponderile modelului necesită aproximativ numărul de parametri × octeți per parametru. La precizie de 16 biți, aceasta înseamnă 2 octeți per parametru, deci un model cu 70 de miliarde de parametri are nevoie de circa 140 GB doar pentru ponderi. Cuantizarea reduce acest necesar. Lucrarea LLM.int8() a arătat că inferența pe 8 biți poate înjumătăți necesarul de memorie fără pierderi de performanță pe modelele testate, iar formatele cu precizie mai mică merg și mai departe, cu compromisuri care trebuie validate clinic.
Ponderile sunt doar o parte a tabloului. Modelele de limbaj și cele multimodale au nevoie și de un cache cheie-valoare pentru fiecare cerere activă. Autorii lucrării despre PagedAttention descriu această memorie drept „uriașă” și notează că ea crește și scade dinamic cu fiecare cerere. Mai mulți utilizatori simultani și date de intrare mai lungi, cum ar fi istoricul complet al unui pacient, înseamnă mai multă memorie pentru cache. Un software de servire eficient ajută foarte mult: în testele autorilor, PagedAttention a îmbunătățit debitul de 2–4 ori la aceeași latență. Însă cache-ul trebuie în continuare planificat.
Antrenarea are nevoie de mult mai mult
Antrenarea consumă mai multă memorie. Lucrarea ZeRO arată că antrenarea în precizie mixtă cu optimizatorul Adam necesită circa 16 octeți per parametru pentru ponderi, gradienți și starea optimizatorului, fără a număra activările. Prin urmare, ajustarea fină chiar și a unui model de dimensiune medie necesită de câteva ori mai multă memorie decât servirea lui. Tehnici precum partiționarea (sharding), ajustarea fină eficientă din punctul de vedere al parametrilor și salvarea selectivă a gradienților (gradient checkpointing) reduc acest necesar, dar capacitatea de antrenare rămâne un element separat de planificare.
Pasul 3: alocați capacitate dedicată sarcinilor clinice paralele
Este tentant să construiți un singur bazin comun de resurse și să lăsați un planificator să le distribuie la cerere. Pentru un program național de sănătate cu mai multe domenii clinice, această abordare creează riscuri reale:
- Concurența pentru memorie. Dacă două modele mari nu pot rămâne ambele rezidente, unul este evacuat și trebuie reîncărcat la sosirea următoarei cereri. Întârzierea rezultată încalcă țintele de latență.
- Vecinii zgomotoși. O sarcină mare de antrenare sau batch poate satura lățimea de bandă a memoriei, interconexiunea sau stocarea și poate încetini inferența care rulează în paralel.
- Responsabilitate neclară. Când triajul imagistic nu își atinge ținta, operatorul trebuie să știe dacă problema a fost modelul, datele sau o sarcină de genomică rulată pe același hardware.
- Controlul modificărilor. IA medicală necesită actualizări controlate și documentate. Ghidul FDA privind planurile predeterminate de control al modificărilor, de exemplu, așteaptă ca producătorii să descrie cum vor fi dezvoltate, validate și implementate modificările modelelor. Mediile separate pentru fiecare domeniu fac aceste modificări mai ușor de izolat și de auditat.
Rezultatul practic este capacitatea dedicată pentru fiecare domeniu clinic, dimensionată pentru vârful de cerere al domeniului respectiv, cu inferența în timp real separată de antrenare și de procesarea batch în cadrul fiecărui domeniu. Bazinele comune rămân utile pentru dezvoltare, cercetare și procesare batch flexibilă.
Pasul 4: integrați redundanța
Hardware-ul se defectează, iar mentenanța trebuie efectuată. Un serviciu clinic fără capacitate de rezervă va avea întreruperi. Abordarea standard este redundanța N+1: dimensionați pentru cererea de vârf cu N unități, apoi adăugați una, astfel încât serviciul să supraviețuiască pierderii oricărei unități. Ghidul Google de Site Reliability Engineering (ingineria fiabilității serviciilor) merge mai departe pentru serviciile critice și recomandă N+2, astfel încât sarcina de vârf să poată fi gestionată chiar și atunci când o unitate este oprită pentru mentenanță planificată, iar alta se defectează neașteptat.
Pentru sănătate, modelul rezonabil este:
- cel puțin N+1 pentru fiecare serviciu de inferență critic din punct de vedere al latenței, cum ar fi triajul imagistic;
- capacitate de rezervă sau de backup care poate prelua rapid un rol de inferență defect, cu modelele deja implementate;
- degradare controlată pentru procesarea batch și antrenare, care pot fi suspendate și reluate, fără a necesita capacitate de rezervă proprie.
Pasul 5: nu uitați de dezvoltare, testare și validare
Fiecare actualizare a unui model trebuie testată înainte de a ajunge la pacienți. Pentru aceasta este nevoie de un mediu care reproduce producția, în care versiunile noi pot rula în mod silențios pe fluxuri de lucru reale, pot fi comparate cu versiunea curentă și pot fi aprobate. Rularea acestor teste pe sistemele de producție pune serviciul în pericol, iar omiterea lor pune pacienții în pericol. Capacitatea de rezervă și cea pentru dezvoltare/testare au și un al doilea rol: pot fi redirecționate în caz de urgență.
Pasul 6: planificați creșterea volumului de date
Programele naționale încep la scară mică și cresc. Capacitatea dimensionată pentru datele de astăzi va deveni insuficientă în câțiva ani dacă digitalizarea reușește. Creșterea vine simultan din mai multe direcții:
- mai multe înregistrări, pe măsură ce se extinde acoperirea cu dosarul electronic de sănătate (DES);
- înregistrări mai bogate, pe măsură ce datele imagistice, de laborator și genomice sunt asociate fiecărui pacient;
- mai multe modele, pe măsură ce sunt aprobate noi utilizări clinice;
- modele mai mari, pe măsură ce domeniul trece la sisteme multimodale.
Planificați o creștere modulară: amplasamentul fizic, alimentarea cu energie, răcirea și rețeaua dimensionate pentru starea finală, iar capacitatea de calcul adăugată în etape, pe măsură ce gradul de utilizare este măsurat.
Exemplu aplicat: aria de acoperire a programului din Republica Moldova
Programul Național de Digitalizare a Sistemului de Sănătate (2025–2030) al Republicii Moldova acoperă aproximativ 2,36 milioane de persoane în cinci domenii de IA. Aplicarea metodei de mai sus arată de ce fiecare are nevoie de propria linie de planificare:
- Imagistica medicală gestionează aproximativ 350.000–400.000 de investigații CT, RMN și PET-CT pe an, în medie circa 1.000 pe zi, iar constatările critice trebuie triate în 5–10 minute. Acesta este domeniul cel mai critic din punct de vedere al latenței. Are nevoie de inferență dedicată în timp real, cu protecție N+1, plus capacitate separată pentru antrenare, reevaluări batch și backup.
- Genomica își propune secvențierea a aproximativ 24.000 de genomuri, circa 1% din populație. Aceasta este o sarcină limitată de debit. Se dimensionează după numărul de genomuri procesate pe lună și beneficiază de fluxuri de analiză accelerate, dar nu trebuie să concureze niciodată cu imagistica pentru resurse.
- Farmacologia și planificarea tratamentului combină un model multimodal mare cu un model separat pentru interacțiunile medicamentoase. Ambele trebuie să rămână rezidente pentru a le răspunde medicilor prescriptori în timp real, ceea ce face din rezidența în memorie factorul dominant de dimensionare.
- Predicția bolilor combină scorarea programată a riscului populațional cu monitorizarea epidemiologică în timp real, iar volumul său de date crește cel mai rapid pe măsură ce se extinde acoperirea cu DES.
- Managementul sistemului de sănătate rulează modele de prognozare și de detectare a anomaliilor, cu cerințe modeste în timp real și rulări batch regulate.
Factorul de creștere contează cel mai mult. Acoperirea cu DES este planificată să crească de la sub 10% la circa 80% până în 2030, adică de aproximativ opt ori mai multe date. Prin urmare, capacitatea, stocarea și infrastructura amplasamentului trebuie planificate de la început pentru volumul de date din 2030, iar capacitatea de calcul trebuie adăugată în etape. Totul trebuie să se afle în interiorul țării: programul cere ca datele medicale ale cetățenilor să fie procesate exclusiv în Republica Moldova, cloud-ul public fiind exclus. Aceasta corespunde direcției europene stabilite de Spațiul european al datelor privind sănătatea, în care analiza are loc în medii de prelucrare securizate, nu prin descărcarea datelor.
Capacitate suverană în Republica Moldova
SRL „IMPORT MEDICAL” deține și operează în interiorul Republicii Moldova capacitate de calcul suverană, on-premise, de înaltă performanță pentru IA, destinată sarcinilor din domeniul sănătății, și este partener tehnic al Programului Național de Digitalizare a Sistemului de Sănătate. Planificăm capacitatea folosind metoda descrisă aici: sarcini de lucru separate pe tipuri, modele menținute rezidente, domenii clinice izolate, redundanță integrată și creștere planificată de la început. Aflați mai multe pe pagina noastră despre infrastructura de IA sau citiți despre dovezile privind IA în radiologie și despre programele naționale de genomică. Pentru a discuta capacitatea necesară instituției sau programului dumneavoastră, contactați-ne.
Surse
- Efficient Memory Management for Large Language Model Serving with PagedAttention (Kwon et al., 2023) — arXiv
- LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale (Dettmers et al., 2022) — arXiv
- ZeRO: Memory Optimizations Toward Training Trillion Parameter Models (Rajbhandari et al., 2019) — arXiv
- Site Reliability Engineering, Appendix: Production Services Best Practices — Google
- Marketing Submission Recommendations for a Predetermined Change Control Plan for AI-Enabled Device Software Functions — U.S. Food and Drug Administration
- European Health Data Space Regulation (EHDS) — European Commission, DG SANTE