Aktualności i wydarzenia · ML Con
Od asystentów głosowych do systemów uczących się: ML Con w Nowym Jorku
Cztery konferencje pod jednym dachem, gęsto wypełnione popołudnie i dwa bardzo różne zastosowania AI. Agata Chudzińska, CTO theBlue.ai, wygłosiła we wrześniu dwa wykłady na ML Con by devmio w New York Marriott at the Brooklyn Bridge. Oba sprowadzają się do tego samego pytania: jak przeprowadzić system AI z pokazu do codziennej eksploatacji, gdzie musi działać szybko, niezawodnie i elastycznie?
Julia Rose
Najważniejsze w skrócie
- 29 września 2026 Agata Chudzińska wygłosiła dwa wykłady jeden po drugim na ML Con w Nowym Jorku, w New York Marriott at the Brooklyn Bridge.
- Pierwszy dotyczył opóźnień w asystentach głosowych: skąd się biorą i dlaczego średnie zaciemniają problem.
- Drugi pokazał na przypadku z diagnostyki MRI, jak model uczy się dalej na nowych danych, nie tracąc tego, co już umiał.
- Oba prowadzą do tego samego wniosku: elastyczność to decyzja projektowa, a nie coś, co dokłada się później.
Wykład 1: Voice Agents, Where Latency Hides and How to Fight It
Agenci AI oparci na tekście mogą pozwolić sobie na pewną ociężałość. Wobec systemów głosowych obowiązuje inna miara. Między dwojgiem rozmawiających ludzi przerwa wynosi średnio 208 milisekund, zmierzone w dziesięciu językach na pięciu kontynentach. Kto rozmawia z maszyną, oczekuje tego samego rytmu. W praktyce opóźnienia kryją się w każdej warstwie systemu.
Wykład uporządkował je w trzy problemy inżynierskie.
- Rozpoznanie końca wypowiedzi. Cisza nie oznacza końca zdania. Czy ktoś się zastanawia, odczytuje ciąg cyfr, czy poprawia sam siebie („Chcę na, yyy, Dworzec Centralny, nie, Zachodni”), prosty licznik oparty na ciszy nie wystarcza. Dzisiejsze podejścia korzystają z modeli, które ze składni i melodii zdania przewidują, czy myśl dobiegła końca.
- Wybór właściwego transportu. Klasyczne HTTP po TCP niesie dla rozmowy zbyt dużo narzutu. Dla czasu rzeczywistego obraz wygląda dziś tak: WebRTC na pierwszym odcinku między urządzeniem a własną infrastrukturą, WebSocket między własnymi usługami, SIP do sieci telefonicznej.
- Przerwania. Gdy dzwoniący wchodzi w słowo, zatrzymanie odtwarzania nie wystarczy. System musi skrócić zapis rozmowy do tego, co dzwoniący faktycznie usłyszał. Inaczej powoła się później na zdania, które nigdy do niego nie dotarły.
Najważniejsza teza dotyczyła pomiaru. Budując asystentów głosowych, nie opieraj się na średnich ani na samej medianie. Liczy się ogon rozkładu. Benchmark platform z sierpnia 2026 osiągnął najlepszą medianę 1,73 sekundy, przy 3,19 sekundy dla co dwudziestej i 10,4 sekundy dla co setnej wymiany zdań. Jeśli wolna jest tylko co dwudziesta wymiana, to przy dwudziestu wymianach na rozmowę 64 na 100 dzwoniących trafia na co najmniej jedną długą przerwę.
Wykład 2: Building AI That Learns and Adapts
Podczas gdy asystentów głosowych optymalizuje się pod milisekundy, medyczne systemy AI mierzą się z bardziej podstawowym problemem uczenia maszynowego: katastrofalnym zapominaniem.
Przykład pochodził z epileptologii, z wykrywania ogniskowej dysplazji korowej w badaniu MRI. Badaniami kierował dr Patrick House w największym centrum epilepsji w Niemczech. Wykład pokazał na tym przypadku, jak sieć neuronowa może dostosować się do zmienionego rozkładu danych, nie tracąc tego, co już umiała.
Gdy model jest aktualizowany nowymi danymi, na przykład po zmianie aparatu albo przy nowych rodzajach zmian, naiwne douczanie często sprawia, że zawodzi przy starszych przypadkach. Oczywiste wyjście, czyli trenowanie wszystkiego od zera, napotyka w takich projektach dwie granice. Po pierwsze wszystkie stare dane muszą nadal istnieć, co przy danych pacjentów rzadko jest możliwe bezterminowo. Po drugie każdy pełny przebieg kosztuje tyle mocy obliczeniowej, co pierwszy, wraz z odpowiednim zużyciem energii.
Continual learning to nazwa, pod którą badania zbierają środki zaradcze, a uderzająco wiele z nich podpatrzono u mózgu. Metody z regularyzacją, jak Elastic Weight Consolidation, ustalają parametry ważne dla wcześniejszego zadania i chronią je przed zmianą. Metody z powtarzaniem trzymają niewielki wybór starych przykładów i trenują je razem z nowymi. W projekcie MRI czułość pozostała na tym samym poziomie, a swoistość wyraźnie wzrosła.
Na koniec spojrzenie w przód. Przy dużych modelach językowych ten sam problem pozostaje nierozwiązany, bo taki model powstaje w kilku etapach i każdy etap może nadpisać to, czego nauczył poprzedni. Najdalej idąca propozycja pochodzi obecnie od Google Research i nazywa się Nested Learning. Trening składa się tam z kilku pętli optymalizacyjnych zagnieżdżonych jedna w drugiej: część działa szybko i się dostosowuje, część wolno i utrwala to, co ma zostać. To również podpatrzone u mózgu.
Przypadek MRI opisaliśmy szczegółowo, z architekturą, obiema wersjami modelu i wynikami klinicznymi, w artykule AI, która uczy się i dostosowuje.
Wspólny mianownik: elastyczność jako decyzja projektowa
Czy w skali milisekund przy AI głosowej, czy przez miesiące walidacji na danych obrazowych z medycyny, lekcja z Nowego Jorku jest w obu przypadkach ta sama. Elastyczności nie da się dołożyć później. Rozstrzyga się ona na etapie projektowania.
Nowoczesne systemy AI muszą od początku radzić sobie z tym, że warunki się przesuwają, że nowe dane wyglądają inaczej niż stare i że odpowiedź ma przyjść w określonym czasie. To, że w Nowym Jorku zeszły się cztery konferencje, o uczeniu maszynowym, DevOps, API i JavaScripcie, dobrze do tego pasuje. Miejsce, w którym technika bliska sprzętowi spotyka uczenie maszynowe, to właśnie tam leżą dziś ciekawe pytania.
Jak układamy takie przedsięwzięcia, opisuje strona Jak pracujemy. Więcej o zespole przeczytasz na stronie O nas.
Liczby pochodzą z prezentacji i noszą tam swoje źródła: Stivers i in., PNAS 106(26), 2009, dla ludzkiego rytmu rozmowy, benchmark platform Cekury z sierpnia 2026 dla czasów odpowiedzi, van de Ven i in., 2024, dla katastrofalnego zapominania oraz Google Research dla Nested Learning. O wydarzeniu: ML Con by devmio.
Planujesz projekt AI?
W analizie procesu mapujemy Twoje procesy, porządkujemy możliwe zastosowania według korzyści i proponujemy architekturę.
Zapytaj o analizę procesuNajczęściej zadawane pytania
O dwóch tematach. Pierwszy wykład z 29 września 2026 nosił tytuł „Voice Agents: Where Latency Hides and How to Fight It” i dotyczył opóźnień w asystentach głosowych. Drugi, „Building AI That Learns and Adapts”, pokazał na przypadku z diagnostyki MRI, jak model uczy się dalej na nowych danych.
Bo cisza w rozmowie odbierana jest jako usterka. Między dwojgiem ludzi przerwa między pytaniem a odpowiedzią wynosi średnio 208 milisekund. W oknie czatu użytkownik widzi, że coś się dzieje, a przez telefon tylko nic nie słyszy.
Katastrofalne zapominanie opisuje efekt, w którym sieć neuronowa douczona na nowych danych traci to, co potrafiła wcześniej. W medycynie pojawia się to na przykład wtedy, gdy model jest aktualizowany nowymi badaniami po zmianie sprzętu.
Continual learning obejmuje metody, które pozwalają modelowi uczyć się przyrostowo bez utraty tego, co było wcześniej. Należą do nich regularyzacja, jak Elastic Weight Consolidation, oraz powtarzanie starych przykładów z niewielkiego bufora. Wiele z tych metod wzorowano na działaniu mózgu.
ML Con to konferencja o uczeniu maszynowym i generatywnej AI, organizowana przez devmio. Edycja w Nowym Jorku odbyła się pod koniec września 2026 w New York Marriott at the Brooklyn Bridge, razem z trzema innymi konferencjami o DevOps, API i JavaScripcie.
Julia jest w theBlue.ai od 2019 roku i od początku istnienia firmy obserwuje z bliska, jak powstają aplikacje AI dla przedsiębiorstw. Jako Marketing Lead ściśle współpracuje z zespołami inżynierów i doradców, a złożone tematy techniczne przekłada na język zrozumiały dla osób decyzyjnych.
W swoich artykułach pisze o praktycznych doświadczeniach z projektów enterprise AI oraz o wyzwaniach i szansach, jakie AI daje firmom.