https://karogasok.github.io/posts/Recent content in Bejegyzések on Varjú KárogásokHugohu-HUCC BY-NC-SA 4.0Mon, 28 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/ai-consciousness/Mon, 28 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/ai-consciousness/<p>Mostanában a tudat kérdése ismét divatos; pár hónapja <a href="https://unherd.com/2026/05/is-ai-the-next-phase-of-evolution/">Richard Dawkins arra jutott, hogy Claude bizony öntudattal rendelkezik</a>, majd Carlo Rovelli bejelentette, hogy a tudat nehéz problémája (<a href="https://en.wikipedia.org/wiki/Hard_problem_of_consciousness">hard problem of consciousness</a>) tudománytalan. Nekem ez azért vicces, mert Dawkins úgy érzi, hogy Claude tudattal rendelkezik, mert azt érzi. Rovelli pedig pont tudománytalannak tartja a nehéz problémát, mert nem igazán lehet operacionalizálni, azaz pont ezt az érzetet, kválét szeretné végleg kiiktatni.</p>https://karogasok.github.io/2026/09/jev-system-1/Thu, 24 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/jev-system-1/<p>Jev és nyílt testvérei <a href="https://github.com/NandhaKishorM/laya">laya</a> és <a href="https://github.com/jaredpalmer/kev">kev</a> szintén szeretik magukat az emberi gondolkodáshoz hasonlítani. Most Kahneman Gyors és lassú gondolkodás című könyvével közismertté vált 1-es rendszer és 2-es rendszer összevetése lett előkapva. Szerintem nem annyira áll az analógia. Illetve ha áll, akkor ezek a rendszerek nem annyira forradalmiak.</p>https://karogasok.github.io/2026/09/llm-emotions/Wed, 23 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/llm-emotions/<p><a href="https://www.anthropic.com/research/emotion-concepts-function">Az Anthropic nagyon érdekes kísérletben</a> azonosított olyan területeket a Sonnet 4.5 neurális hálójában, melyek érzelmekhez köthetőek. Nagyon ügyesen lavíroznak a kutatók, persze elmondják, ezek inkább funkcionális érzelmek, nem igaziak. Csakhogy közben végig antropomorfizálják a nagy nyelvmodellt. A funkcionális érzelmek persze csak funkcionálisak, a tanítás során kerülnek be, hiszen az emberi nyelvhasználatban sokszor meghatározóak az érzelmek - gondoljunk például legutolsó telefonos ügyfélszolgálatos élményeinkre. Ha vesszük az érzelmeket kifejező szavakat és olyan sztorikat melyekben ezek előfordulnak (persze ezeket már eleve rögtön egy llm segítségével generálhatjuk is), akkor megtudhatjuk az llm hálójának mely részei aktiválódnak, amikor az adott érzelemről “olvas”. Ezzel csak az a baj, hogy “Emotion representations in the brain are found to be distributed, context dependent and variable across individuals and contexts.”</p>https://karogasok.github.io/2026/09/muslica/Fri, 18 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/muslica/<p>Egészen pontosan a hím muslica neurális térképén (<a href="https://hu.wikipedia.org/wiki/Konnektom">konnektom</a>) alapuló neurális hálókat tanítanak szerte a világban mióta a Google elérhetővé tette a több mint 166.000 neuront és 125.000.000 szinaptikus kapcsolatot tartalmazó konnektomját. Személyes kedvencem a beat saber-t játszó muslica.</p>https://karogasok.github.io/2026/09/cognitive-debt/Fri, 18 Sep 2026 07:00:00 +0200https://karogasok.github.io/2026/09/cognitive-debt/<p>A vibe coding hihetetlenül felgyorsította a fejlesztési folyamatokat. Ugyanakkor egyre több helyről hallani hogy a fejlesztők kezdenek kimerülté válni, a projektek pedig egyre átláthatatlanabbak és egy-egy változtatás egyre körülményesebb és egyre több nemszándékolt következménnyel jár. Storey nagyon meggyőzően szól arról, hogy ennek legfőbb okai 1) a vibe coding technical debt-tel is jár - habár ez viszonylag könnyen orvosolható 2) kognitív tartozást halmozunk fel miközben egyre több mindent bízunk az AI-ra 3) mindeközben a projekt szándékaival szemben is tartozást halmozunk fel.</p>