Zrod modelov sveta a predvídavých architektúr

Ako sa môžu naše digitálne technológie naučiť múdrosti z dostupných údajov bez toho, aby musel človek zložito a mechanicky prispôsobovať každé jedno pravidlo?

Práve o tom bola reč – o objavovaní samoučenia (angl. self-supervised learning), teda učenia bez vonkajšej pomoci, ktorá by diktovala hotovú pravdu. Táto paradigma umožnila inteligentným systémom učiť sa na príkladoch bez predpripravených správnych riešení (tzv. neoznačené dáta). Učili sa tak, že si – podobne ako ľudia – vytvárali vlastný vnútorný model sveta, pričom namiesto vynucovania pravidiel vychádzali len z pozorovaní.

Pozornosť sa zamerala najmä na metódu BYOL (Bootstrap Your Own Latent), ktorá trénovala neurónové siete na hľadanie užitočných vzorov porovnávaním rôznych pohľadov na rovnaký údajový objekt. Na rozdiel od tradičných prístupov nevyžadovala hotové odpovede; učila sa prostredníctvom predikcie toho, ako mohol rovnaký objekt vyzerať pod rôznymi modifikáciami.

Okrem týchto základov prednáška priblížila, ako sa myšlienky samoučenia rozširovali do ďalších oblastí:

  1. Analýza sociálnych sietí a komunitných štruktúr (husto prepojených podsietí) pomocou metódy BGRL.
  2. Pochopenie neurónových záznamov a biologických signálov prostredníctvom metódy MYOW.
  3. Integrovanie viacerých dátových modalít (text, obrázky, zvuk) metódou BEAST.

Priebeh a diskusia

Po podujatí prebehla vášnivá otvorená diskusia. Hlavnými témami bolo hľadanie rovnováhy medzi automatizáciou, efektivitou procesov, kvalitou výstupov a nevyhnutnou ľudskou odbornosťou, ako aj praktické prepojenie pokročilých modelov s reálnymi výskumnými problémami.