OdyssNet, Zaman'ın nihai Gizli Katman olduğunun kanıtıdır.
Geleneksel Derin Öğrenme, karmaşıklığı çözmek için Uzamsal Derinliğe (üst üste yığılan katmanlar) dayanır. OdyssNet bu ortodoksiyi reddeder: Zamansal Derinlik (zaman içinde evrimleşen kaos) çok daha verimli bir alternatiftir.
Sıfır-Gizli Atılım
1969'da Minsky & Papert, gizli katmanı olmayan bir sinir ağının XOR gibi doğrusal olmayan problemleri çözemeyeceğini kanıtladı. OdyssNet bu sınırı aştı.
Ağı bir Eğitilebilir Dinamik Sistem olarak ele alarak OdyssNet, 0 Gizli Katman ile doğrusal olmayan problemleri (XOR, MNIST) çözüyor. Uzamsal nöronların yerini zamansal düşünme adımları alıyor.
OdyssNet verimliliğini Uzay-Zaman Takası (Space-Time Trade-off) ile sağlar. Derinlik oluşturmak için binlerce yeni nöron eklemek (Uzay) yerine, mevcut nöronları daha fazla adım boyunca çalıştırır (Zaman). Tek bir fiziksel matris zamansal adımlarda yeniden kullanılır ve onlarca katmana eşdeğer hesaplamayı mikroskobik bir parametrik ayak izine sıkıştırır. Bu, zekanın statik bir yapı değil, dinamik bir süreç olduğunu kanıtlar.
DÜNYA REKORU: Parametrik Zeka Yoğunluğu
OdyssNet, MNIST üzerinde 634 parametre ile %89.89 doğruluk elde ediyor. Parametre başına %0.14 doğruluk, bir kartvizite sığacak kadar küçük bir modelde.
- OdyssNet, uzamsal derinlik yerine zamansal derinlik kullanır: katman yığmak yerine tek bir dinamik çekirdek birden fazla adım "düşünür".
- Çekirdeğin kendi durum geçmişi üzerinde isteğe bağlı çok başlı dikkat (gerçek bir KV önbelleğiyle birlikte) katmanlar arasına değil zaman eksenine bağlanır. Varsayılan olarak kapalıdır.
- Sıfır gizli katman ile XOR ve MNIST gibi doğrusal olmayan görevleri eğitilebilir dinamiklerle çözer.
- 634 parametre ile %89.89 MNIST doğruluğu, 4,669 parametre ile 7x7 MNIST'te %96.05 elde eder.
- Bir kovan olarak koşar. Sekiz beden aynı çekirdeği koşuyor ve birbirine hiç değmiyor (ayrı durumlar, ayrı önbellekler, ayrı forward geçişleri), tek bir havuzlanmış Hebbian izi paylaşıyorlar. Her bedene her bölümde yeniden çizilen bir halkanın tek bir kenarı gösteriliyor; sonrasında her beden hiç görmediği kenarları hatırlıyor ve dört kenara kadar uzanan zincirleri birleştiriyor: 0.125 şansa karşı 1.000, üstelik çalışma anında tek bir gradyan adımı olmadan. Ayrı ayrı koşulduklarında aynı ağırlıklar aynı girdilerle şansa düşüyor.
- Bellek, ritim, çekici kararlılığı ve görevler arası beceri transferi sergiler.
- Kanıtlar için örnekler, kendi kullanımınız için odyssnet kütüphanesi başlangıç noktasıdır.
- Uzay-Zaman Dönüşümü: Milyonlarca parametrenin yerini birkaç "Düşünme Adımı" alıyor.
-
Katmansız Mimari: Tek bir
$N \times N$ matris. Gizli katman yok. - Eğitilebilir Kaos: Kaotik sinyalleri dizginlemek için StepNorm ve Tanh kullanır.
-
Zamansal Dikkat (3.0): Çekirdeğin kendi durum geçmişi üzerinde isteğe bağlı çok başlı dikkat (
attn_heads=4). Arasına dikkat yerleştirilecek katman olmadığı için zaman ekseninde çalışır. Baştan sona modern KV önbellekleme: gruplanmış sorgu başlıkları, RoPE, kayan pencere ve tahsis yapmadan çözümleme (decoding) için önceden ayrılmış halka tampon. Çıkış izdüşümü sıfırdan başlar; yani açmak, eğitim aksine karar verene kadar hiçbir şeyi değiştirmez. -
Heterojen Sinaptik Plastisitesi: İsteğe bağlı çevrimiçi Hebbian öğrenmesi (
hebb_type='temporal'|'spatial'|'both',hebb_res='neuron'|'global'): ağ korelasyonları örnek başına biriktirir ve global veya nöron başına çözünürlükte tamamen türevlenebilir logit parametreleri (t_hebb_factor,s_hebb_decay, vb.) aracılığıyla ne kadar hızlı öğreneceğini öğrenir. Plastik katkı sıfırdan başlayan öğrenilebilir bir kazançla ölçeklenir; yani plastisiteyi açmak, eğitim aksine karar verene dek hiçbir şeyi değiştirmez; bu dahebb_type'ı tam bir kontrol hâline getirir. İz, bir matris olarak değil kendisini oluşturan yazımlar olarak tutulur; maliyetiadım x batch x N'dir ve matris hiç kurulmaz. Ablasyonunu yapın: ölçümlerde ardışık görevlerde kazandırıyor, attention'ın zaten kapladığı yerde kaybettiriyor. -
Bedenler Arası Kolektif Bellek: Kalıcı Hebbian tamponu, canlı izlerin batch ortalamasını tutar ve bir sonraki çağrıda her satıra geri verir; yani bir batch koloni olarak koşulabilir: özel girdi ve çıktıları olan bağımsız bedenler, çekirdeğin üzerinde duran tek bir ortak bellek. Bir bedenin çalışma anında öğrendiğini (gradyan yok, ağırlık güncellemesi yok) diğer bütün bedenler okuyabilir; sonradan inşa edilmiş bir beden dahil.
convergence_hive_mind.pyiçinde ölçülüyor. - Transplant ile Beceri Transferi: Öğrenilmiş zamansal beceriler model boyutları arasında taşınabilir ve yeni görevlerde yeniden kullanılabilir.
- Canlı Dinamikler: İrade (Mandal), Ritim (Kronometre) ve Rezonans (Sinüs Dalgası) gösterir.
OdyssNet'i teorik limite, Sıfır Gizli Nöron'a kadar zorladık. Bu testlerde Giriş Katmanı doğrudan Çıkış Katmanına (ve kendisine) bağlıdır. Ara katman yoktur.
| Görev | Geleneksel Kısıt | OdyssNet Çözümü | Sonuç | Script |
|---|---|---|---|---|
| Kimlik | Önemsiz | Atomik Birim | Kayıp: 0.0 | convergence_identity.py |
| XOR | Gizli Katman Gerekir | Kaos Kapısı (Zamana Katlanmış) | Çözüldü (3 Nöron) | convergence_gates.py |
| MNIST | Gizli Katman Gerekir | Sıfır-Gizli | Doğ: %98.71 | convergence_mnist.py |
| MNIST (8k) | Gizli Katman Gerekir | Gömülü Meydan Okuma | Doğ: %93.71 | convergence_mnist_embed.py |
| MNIST (Rekor) | Gizli Katman Gerekir | 634-Param Çekirdek + Attention | Doğ: %89.89 | convergence_mnist_record.py |
| MNIST Ters (Üretim) | Dekoder Gerekir | 728-Param Üreteç | %90.71 Sıkıştırma | convergence_mnist_reverse_record.py |
| Sinüs Dalgası | Osilatör Gerekir | Programlanabilir VCO | Mükemmel Senkron | convergence_sine_wave.py |
| Mandal | LSTM Gerekir | Çekici Havzası (İrade) | Sonsuz Tutma | convergence_latch.py |
| Kronometre | Saat Gerekir | İç Ritim | Hata: 0 | convergence_stopwatch.py |
| Dedektif | Bellek Gerekir | Bilişsel Sessizlik (Akıl Yürütme) | Mükemmel Tespit | convergence_detective_thinking.py |
| Beceri Transferi | Baştan Eğitim Gerekir | Toplama -> Çarpma Transplantı | 3.6x Daha Hızlı | convergence_skill_transfer.py |
| Kovan Zihni | Paylaşmak İçin Baştan Eğitim Gerekir | Havuzlanmış Plastik İz (Kolektif Bellek) | Hiçbir Bedenin Görmediği Bilgide 1.000 (şans 0.125) | convergence_hive_mind.py |
| Görüntü Difüzyonu | UNet + VAE Gerekir | 573k-Param Gürültü Giderici (yörünge belleği) | 15 dakikada ~%86 Sınıf Sadakati | experiment_diffusion.py |
Standart Sinir Ağları MNIST veya XOR'u çözmek için Gizli Katmanlara ihtiyaç duyar. Doğrudan bağlantı (Doğrusal Model) karmaşıklığı yakalayamaz ve başarısız olur (~%92'de takılır).
OdyssNet, tam ölçekli MNIST'i (28x28) Sıfır Gizli Katman ile çözüyor (Doğrudan Giriş-Çıkış).
- Girişler: 784
- Çıkışlar: 10
- Gizli Katmanlar: 0
- Düşünme Süresi: 10 Adım
Giriş katmanı 10 adım boyunca "kendisiyle konuşur". Kaotik geri besleme döngüleri zamanla özellikleri (kenarlar, döngüler) dinamik olarak çıkarır ve uzamsal katmanların işini yapar. Bu, Zamansal Derinliğin Uzamsal Derinliğin Yerini Alabileceğini kanıtlar.
Sekiz beden tek bir 21.280 parametreli çekirdeği paylaşıyor ve başka hiçbir noktada temas etmiyor: ayrı gizli durumlar, ayrı dikkat önbellekleri, ayrı forward geçişleri, özel girdiler ve özel çıktılar. Her bedene, her bölümde yeniden çizilen 8 düğümlük bir halkanın tek bir kenarı gösteriliyor. Ardından her özel taşıyıcı siliniyor (durum sıfırlanıyor, dikkat önbelleği resetleniyor) ve her bedenden bir sorgu sembolünden başlayarak halkayı yürümesi isteniyor; kenar başına bir yankı adımı.
| sütun başına 320 sorgu | hop 1 | hop 2 | hop 3 |
|---|---|---|---|
| birlikte, tek ortak bellek | 1.000 | 1.000 | 1.000 |
| ayrı, tek başına bir beden | 0.297 | 0.134 | 0.094 |
| birlikte, bellek boş | 0.147 | 0.141 | 0.112 |
Şans 0.125. Hop 1, başka bir bedenin gözlediği bir kenar; hop 2 ve hop 3, farklı bedenlerde duran kenarları birleştiriyor; hiçbir beden bunları kendi girdilerinden cevaplayamaz. Halka yalnızca o bölüm için var olduğundan cevap ağırlıklarda olamaz; çalışma anında da hiçbir şey eğitilmiyor: çalışma geçişi torch.no_grad() altında koşuyor, yani yazmayı mimarinin kendi plastisitesi yapıyor.
Bedenler arasındaki tek şey, paylaşılan çekirdeğe bıraktıkları plastik iz; kütüphane bunu batch ortalaması olarak havuzluyor. Kontroller bunu her yönden söylüyor: bir bedenin kenarı değiştirildiğinde başka bir bedenin cevabı bunu izliyor (1.000), aynı beden tek başına koşturulduğunda ise cevabı bit-bit aynı kalıyor; başka bir koloninin belleği takıldığında cevaplar o halkayı izliyor (1.000); bedenler ayrı koşulup bellekler sonradan havuzlandığında sonuç batch'li hâliyle 3.0e-08'e kadar örtüşüyor; hebb_type=None ile her şey şansa düşüyor. Üç yerine yedi hop'a eğitildiğinde aynı koloni dört kenar boyunca 1.000'i koruyor, sonra düşüyor (0.884, 0.775, 0.228). Bir yankı adımı bir kenar yürüyor, yani bileşim derinliği zamansal derinliktir. Tam protokol M bölümünde.
OdyssNet, modüler bir PyTorch kütüphanesi olarak tasarlanmıştır.
# Gelistirme modu (onerilen)
pip install -e .
# Veya tum bagimliliklari yukleyin
pip install -r requirements.txtCUDA Notu:
requirements.txt, CUDA 11.8 uyumlu PyTorch'a işaret eder. Daha yeni bir GPU'nuz varsa (RTX 4000/5000), PyTorch'u manuel olarak kurmanız gerekebilir:pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121
import torch
from odyssnet import OdyssNet, OdyssNetTrainer, set_seed
# Tüm örnekler için yeniden üretilebilir sonuçlar
set_seed(42)
# Sıfır-Gizli Ağ başlat
# 1 Giriş, 1 Çıkış.
model = OdyssNet(num_neurons=2, input_ids=[0], output_ids=[1], device='cuda')
trainer = OdyssNetTrainer(model, lr=1e-4, device='cuda')
# Eğit
inputs = torch.randn(100, 1)
trainer.fit(inputs, inputs, epochs=50)weight_init=['quiet', 'resonant', 'quiet', 'zero'] varsayılan stratejidir: sırasıyla encoder/decoder, çekirdek matris, bellek geri beslemesi ve gate parametreleri için birer giriş. 'resonant' gibi tek bir string tüm alanlara genişletilir.
activation=['none', 'tanh', 'tanh', 'none'] varsayılan aktivasyon düzenidir. İlk 3 giriş encoder/decoder, core ve memory yollarına karşılık gelir. 4. alan konfigürasyon simetrisi için ayrılmıştır.
gate=None, varsayılan gate düzeni olan ['none', 'none', 'identity'] anlamına gelir (encoder/decoder kapalı, core kapalı, memory identity gate açık). Tüm dalları gate etmek için gate='sigmoid', sadece memory için ['none', 'none', 'sigmoid'], tüm gating'i kapatmak için ['none', 'none', 'none'] kullanılabilir.
- Tüm Ağlar (Varsayılan Çekirdek):
weight_init='resonant'veactivation='tanh'kullanın. Çekirdek baştan Kaosun Kıyısına (ρ(W) = 1.0) yerleşir; bu, zamansal adımlarda sinyal kalitesini korur.- Kutupsal Rademacher iskeleti + ρ = 1.0'a spektral normalizasyon.
- Alternatif — Büyük Ağlar (>10 Nöron):
weight_init='orthogonal'saf kararlılık için sağlam bir geri dönüş seçeneği olarak kalır.
- Alternatif — Küçük Ağlar (<10 Nöron, Mantık Kapıları):
- Rezonant yakınsama çok yavaşsa
weight_init='xavier_uniform'veactivation='gelu'deneyin.
- Rezonant yakınsama çok yavaşsa
- Opsiyonel — Parametrik Gating:
- Global gating için
gate='sigmoid', dal bazlı gating için[encoder_decoder, core, memory]sıralı listeler kullanın. - Bir dalı kapatmak için
'none', öğrenilebilir parametreli kimlik geçişli bir kapı için'identity'kullanın.
- Global gating için
OdyssNet bir ileri-besleme mekanizması değil; bir Rezonans Odasıdır.
Geleneksel YZ'da giriş genellikle statik bir anlık görüntüdür. OdyssNet hem Nabızları hem de Akışları işler.
-
Nabız Modu: Bir görüntü
$t=0$ 'da çarpar. Ağ gözlerini kapatır ve dalgalanmaları işler (MNIST). - Akış Modu: Veriler sıralı olarak uygulanır. Ağ olaylar arasında "bekleyebilir" ve "düşünebilir" (Dedektif).
Sinyal her nörondan diğer her nörona (
- Giriş nöronları, ilk adımdan sonra etkili biçimde Gizli Nöronlara dönüşür.
- Bilgi yankılanır, ayrılır ve çarpışır. Sol üstteki bir piksel, doğrudan bağlantı veya ara yankılar aracılığıyla sağ alttaki bir piksel ile etkileşime girer.
- Holografik İşleme: Bir görüntünün "kedi-liği" belirli bir katmanda saklanmaz; tüm sinyallerin çarpışmasının girişim deseninden ortaya çıkar.
Sıfır-Gizli performansının sihri burada yatar.
- Adım 1: Ham sinyaller karışır. (MLP'nin 1. Katmanına eşdeğer)
- Adım 2: Karışık sinyaller yeniden karışır. (2. Katmana eşdeğer)
- Adım 15: Son derece soyut özellikler ortaya çıkar. (15. Katmana eşdeğer)
15 adım "düşünerek" OdyssNet, yalnızca bir fiziksel matris kullanarak 15 katmanlı derin bir ağı simüle eder. Uzayı zamana katlar.
Kontrolsüz geri besleme döngüleri patlamaya yol açar. OdyssNet kaosun mühendisliğini yaparak kararlı Çekiciler oluşturur.
- StepNorm yerçekimi gibi davranır, enerjiyi sınırlı tutar.
- Tanh anlamlı sinyalleri filtreler ve sinyal simetrisini korur.
-
ChaosGrad Optimizer (varsayılan): OdyssNet'in kendi sıfır-konfigürasyon optimizatörü. Adım ölçeğini çevrimiçi tahmin eder (D-adaptation sınıfı matematik), mimariye duyarlı aile politikası uygular ve kaotik dinamikleri çapa bağlı çekiş limiti ile kayıp-sıçraması freniyle korur. Öğrenme hızı gerekmez; tekrarlanabilir sabit-hız modu için açık bir
lrgeçilebilir. -
Heterojen Sinaptik Plastisitesi:
hebb_typeayarlandığında her adımda korelasyonlar (zamansal$h_t \otimes h_{t-1}$ veya uzamsal$h_t \otimes h_t$ ) biriktirilir ve enjekte edilir.t_hebb_factorgibi faktörler global bir skaler veya nöron başına vektör olabilir. İkisi de öğrenilebilir olduğundan ağ, her sinaptik yolun ne kadar plastik olması gerektiğini keşfeder. - Mandal Deneyi OdyssNet'in gürültüye karşı bir kararı sonsuza kadar tutmak için kararlı bir çekici oluşturabileceğini kanıtladı.
OdyssNet kâğıt üzerinde Tekrarlayan Sinir Ağına (RNN) benzese de felsefesi temelden farklıdır.
| Özellik | Standart RNN / LSTM | OdyssNet |
|---|---|---|
| Giriş Akışı | Sürekli Akış (örn. cümledeki kelimeler) |
Tek Nabız ( |
| Amaç | Dizi İşleme (Ayrıştırma) | Derin Düşünme (Sindirme) |
| Bağlantı | Yapılandırılmış (Giriş Kapısı, Unutma Kapısı vb.) |
Ham Kaos (Tam Bağlı |
| Dinamikler | Soluklaşmayı önlemek için mühendislik yapılmış (LSTM) | Rezonansı bulmak için Evrimleşir (Kaos) |
- RNN'ler dış dünyayı dinler. Dış girdilerin bir dizisini işlerler.
- OdyssNet iç sesini dinler. Probleme bir bakış atar ve sonra gözlerini kapatır, 15 adım boyunca üzerine "düşünür". Kendi zamansal derinliğini yaratır.
OdyssNet, katmanlı ağlardan hem yapı hem de davranış bakımından çok daha fazla beyne benzer:
- Katman Yok: Beynin "1. Katmanı" ve "2. Katmanı" yoktur. Birbirine bağlı nöronların bölgeleri vardır. OdyssNet tek bir bölgedir.
- İrade (Mandal): Sönümlenen (fading) standart RNN'lerin aksine OdyssNet bir karara kilitlenebilir ve onu entropiye karşı tutabilir, "Bilişsel Kalıcılık" sergiler.
- Ritim (Kronometre): Herhangi bir dış saat olmadan OdyssNet zamanı öznel olarak deneyimler; sayabilir, bekleyebilir ve tam anında hareket edebilir.
- Sabır (Dedektif): "Düşünme Süresinden" yararlanır. Tıpkı insanların karmaşık mantığı işlemek için bir ana ihtiyaç duyması gibi, OdyssNet olası çözümleri sindirmek için birkaç sessizlik adımı verildiğinde imkânsız problemleri çözer.
OdyssNet varsayılan olarak hiçbir geçmiş tamponu taşımaz. Açık
- Mekanizma: Geçmişten gelen bilgi, gizli durumda ayakta duran bir dalga veya titreşim olarak korunur.
- Tespit: İlgili bir giriş geldiğinde, belirli dalgayla yapıcı girişim (rezonans) oluşturur ve onu yüzeye çıkmaya zorlar.
- Sonuç: Ağ, tüm geçmiş tamponunu saklamadan ilgili geçmiş olaylara "dikkat eder". Zaman'ın kendisi indeksleme mekanizması olarak hareket eder.
Rezonans, indekssiz bir bellektir. 3.0 sürümü diğer türü seçenek olarak ekliyor: attn_heads=4, her düşünme adımına kendisinden önce gelen durumlar üzerinde bir sorgu hakkı verir.
- Nereye bağlanır: Arasına dikkat konulacak katman yok; bu yüzden dikkat, mimarinin sahip olduğu tek eksende, kendi geçmişi boyunca çalışır. Sonuç, yinelemenin ve girdinin beslediği aynı aktivasyon-öncesi sinyale eklenir; adımın aktivasyonu ve StepNorm'u onu da diğer her şey gibi sınırlar.
- Sorgu uzunluğu daima 1'dir. Çekirdek paralel açılamaz; dolayısıyla bir ileri geçiş, tek sorgulu dikkatlerin dizisidir: bir Transformer'ın decode aşaması, asla prefill'i değil. Önbellekteki her giriş zaten geçmiştedir ve anahtarlar üzerindeki softmax sıraya duyarsızdır; bu yüzden ne maske ne de yeniden sıralama gerekir.
- Gerçek bir KV önbelleği: gruplanmış sorgu / çoklu sorgu başlıkları, her anahtara yazıldığı anda uygulanan RoPE, kayan pencere ve aynı sayıları ürettiği testlerle sabitlenmiş iki temsil: çıkarım için yerinde yazılan önceden ayrılmış halka, eğitim için parçalı graf önbelleği.
-
Denemesi bedava: çıkış izdüşümü sıfır başlatılır ve modül çekirdekten sonra kurulur; böylece aynı tohumdaki dikkatli ve dikkatsiz model aynı
$W$ 'den ve aynı çıktıdan başlar. Ablasyonun içinde tek bir değişken kalır. -
Ölç:
python -u examples/advanced/experiment_llm.py --mode sweep --sweep attn --minutes 3 --batch 128; buradakioffkolu hiç dikkat kurmaz. Tüm mekanik, maliyet modeli ve ayar düğmeleri: docs/LIBRARY.md.
Ağ durumu
Zamansal dikkat açıkken aynı toplama bir terim daha katılır: daha önce yazılmış durumların önbelleği
OdyssNet'in temel hipotezini doğrulamak için kapsamlı testler yürüttük: Zamansal Derinlik > Uzamsal Derinlik.
-
Hedef:
$f(x) = x$ . Ağ mükemmel bir tel olarak hareket etmelidir. -
Mimari: 2 Nöron (1 Giriş, 1 Çıkış). 0 Gizli Katman. Toplam 4 Parametre.
-
Sonuç: Kayıp: 0.000000.
Terminal Çıktısını Gör
In: 1.0 -> Out: 0.9999 In: -1.0 -> Out: -1.0000 -
Script:
examples/convergence_identity.py -
Çıkarım: Mutlak minimum karmaşıklıkla temel sinyal iletimini ve
StepNormkararlılığını kanıtlar.
-
Hedef: Doğrusal olmayı ima eden klasik XOR problemini (
$[1,1]\to0$ ,$[1,0]\to1$ vb.) çözmek. -
Meydan Okuma: Gizli katman olmadan standart doğrusal ağlar için imkânsız.
-
Sonuç: Çözüldü (Kayıp 0.000000). OdyssNet sınıfları ayırmak için uzay-zamanı büküyor.
Doğruluk Tablosu Doğrulamasını Gör
A B | XOR (Tahmin) | Mantık ---------------------------------------- -1.0 -1.0 | -0.9998 | 0 (Hedef: 0) TAMAM -1.0 1.0 | 0.9996 | 1 (Hedef: 1) TAMAM 1.0 -1.0 | 0.9997 | 1 (Hedef: 1) TAMAM 1.0 1.0 | -1.0003 | 0 (Hedef: 0) TAMAM -
Mimari: 3 Nöron (2 Giriş, 1 Çıkış). 0 Gizli Nöron. Toplam 9 Parametre.
-
Düşünme Süresi: 5 Adım.
-
Script:
examples/convergence_gates.py -
Çıkarım: OdyssNet Zamanı Gizli Katman Olarak kullanır. Girişi yalnızca 5 zaman adımına katlayarak tek bir fiziksel katmanda doğrusal olmayan bir karar sınırı oluşturur; 3 kaos-bağlantılı nöronun XOR'u çözebileceğini kanıtlar.
OdyssNet'in görme yeteneğini dört koşulda test ettik: tam ölçek, sürekli yenileme, küçültülmüş ve ölçekli.
-
Hedef: Tam 28x28 MNIST (784 Piksel).
-
Mimari: 794 Nöron (Giriş+Çıkış). 0 Gizli Katman.
-
Sonuç: %98.71 Doğruluk.
Eğitim Günlüğünü Gör
Epoch 100: Loss 0.0064 | Test Acc 98.71% | FPS: 5617.4 -
Script:
examples/convergence_mnist.py -
Çıkarım: Standart doğrusal modeller %92'de tavan yapar. OdyssNet, yalnızca Zamansal Derinlik aracılığıyla Derin Öğrenme katmanları olmadan Derin Öğrenme performansı (%98.71) elde eder.
-
Hipotez: Ölü sinapsları öldürmek yerine canlandırarak (rastgele yeniden başlatma) %100 parametre verimliliğine ulaşabilir miyiz?
-
Sonuç: %98.70 Doğruluk.
-
Gözlemler:
- Epoch 1: 24.705 bağlantı "işe yaramaz" kabul edilip yeniden doğdu (633612 toplam içinde %3.90).
- Epoch 100: Yeniden doğma 11.122 canlandırılmış (%1.76) seviyesine oturdu.
- Bu sürekli ameliyat sırasında doğruluk %98.70'e tırmandı.
Yenileme Günlüğünü Gör
Epoch 1: Loss 0.1054 | Acc 91.91% | Revived: 24705/633612 (3.90%) Epoch 100: Loss 0.0047 | Acc 98.70% | Revived: 11122/633612 (1.76%) -
Script:
examples/advanced/convergence_mnist_revive.py -
Çıkarım: Kapasiteyi küçülten standart budamanın aksine OdyssNet, zayıf bağlantıları sürekli geri dönüştürerek tam kapasiteyi koruyabilir. Bu, doyma olmadan Sürekli Öğrenmeyi mümkün kılar; sonuç %98.70 doğruluk.
-
Hedef: 7x7'ye Küçültülmüş MNIST. (Bir simgeden daha az.)
-
Mimari: Toplam 59 Nöron. 4,669 parametre: 3,717 parametrelik çekirdek ve genişliği 4 olan tek bir attention başlığı.
-
Sonuç: %96.05 Doğruluk.
Küçük Sonuçları Gör
Epoch 23: Loss 0.0155 | Test Acc 96.05% Epoch 100: Loss 0.0155 | Test Acc 96.05% -
Script:
examples/advanced/convergence_mnist_tiny.py -
Çıkarım: Bir önyükleyiciden daha küçük parametre sayılarıyla bile sistem sağlam özellikler öğrenir. Koşu 23. epoch'ta %96.05'e ulaşıp kalan 77 epoch boyunca bu değeri basamağına kadar koruyor; gürültülü bir plato değil, sabit nokta.
-
Hedef: 14x14'e Küçültülmüş MNIST.
-
Mimari: ~42k Parametre.
-
Sonuç: %98.01 Doğruluk.
Ölçekli Sonuçları Gör
Epoch 100: Loss 0.0127 | Test Acc 98.01% -
Script:
examples/advanced/convergence_mnist_scaled.py
-
Hedef: Ayrışık projeksiyon kullanarak tam MNIST (784 Piksel).
-
Mimari: 10 Nöron (Düşünme Çekirdeği). Toplam ~8k Parametre.
-
Strateji: 784 Piksel
$\to$ Proje(10)$\to$ RNN(10)$\to$ Çözümle(10). -
Sonuç: %93.71 Doğruluk.
Eğitim Günlüğünü Gör
Projected Input: 784 -> 10 Total Params: 8090 Epoch 1: Loss 1.4060 | Test Acc 87.13% Epoch 100: Loss 0.7712 | Test Acc 93.71% -
Script:
examples/advanced/convergence_mnist_embed.py -
Çıkarım: 784 pikseli işlemek için 784 aktif nörona ihtiyaç duymadığımızı kanıtlar. Asimetrik kelime dağarcığı projeksiyonu kullanarak görsel bilgiyi yalnızca 10 nöronluk küçük bir "Düşünme Çekirdeğine" sıkıştırabiliriz; bu çekirdek daha sonra zamansal rezonans aracılığıyla sınıflandırmayı çözer. Standart modellerden 10 kat daha parametre-verimli.
-
Hedef: MNIST'i %90'a ulaşan en küçük parametre bütçesiyle çözmek.
-
Kurulum:
- Mimari: 4 temporal attention başlıklı 10 çekirdek nöron.
- Strateji: 7x7'lik 16 spiral yama, düşünme adımı başına bir yama.
- Projeksiyonlar: 4 nöronluk giriş gömmesi ve 10 sınıflı çıkış çözümleyici.
- Toplam Parametre: 634 (430 çekirdek, 204 attention).
-
Sonuç: 100 epoch sonunda Doğ: %89.89, zirve %90.91 (epoch 68).
"Parametrik Verimlilik" Günlüğünü Gör
Epoch 1/100 | Loss 1.2036 | Acc 86.04% Epoch 10/100 | Loss 0.9356 | Acc 90.23% Epoch 68/100 | Loss 0.9045 | Acc 90.91% Epoch 100/100 | Loss 0.9052 | Acc 89.89% -
Script:
examples/advanced/convergence_mnist_record.py -
Çıkarım: Parametre başına %0.14 doğruluk. Zamansal düşünme adımlarıyla yüksek seviyeli zeka mikroskobik bir parametrik alana sıkıştırılıyor; modern yapay zekada Entropi Sıkıştırma Limitlerine en yakın şey bu. 634 parametrenin 204'ü attention dalına ait ve erken bir yamayı geç bir yamaya taşıyan da o; kontrollü iki seedli bir karşılaştırma bu görevde onu Hebbian plastisitenin önüne koydu.
-
Hedef: MNIST GÖREVİNİ TERSLE: dijital etiketlerden (0-9) 28×28 görseller üret.
-
Yön: Rakam (Skaler) → Görsel (784 Piksel).
-
Kurulum:
- Mimari: 12 nöronlu OdyssNet (2 giriş, 6 çıkış, 4 gizli).
- Strateji: 5 ısınma adımı + 16 çıkış adımı = toplam 21 düşünme adımı.
- Parçalar: 16 parça (7×7 her biri) 28×28 ızgarada döşenmiş.
- Toplam Parametre: 728 (484 parametrelik çekirdek ve 4 temporal attention başlığı).
- Sıkıştırma: 10×784 = 7,840 değer vs. 728 parametre = ≈%90.71 Nöral Sıkıştırma.
-
Sonuç: Eğitim sırasında tüm MNIST rakamlarının mükemmel görsel rekonstruksiyonu.
-
Script:
examples/advanced/convergence_mnist_reverse_record.py -
Çıkarım: OdyssNet'in çift yönlü eşlemeleri çözebildiğini kanıtlar. Üretim, temporal attention'ın tam da tasarlandığı durum: her yama daha önce çizilenlerle tutarlı olmak zorunda ve bunların tek kaydı çekirdeğin kendi durum geçmişi. 634 parametreli sınıflandırıcı ile bu 728 parametreli üreteç birlikte, 1,400 parametrenin altında tam çift yönlü bir MNIST modeli oluşturuyor.
-
Hedef: Frekansın
$t=0$ 'daki tek bir giriş değeriyle kontrol edildiği sinüs dalgası üretmek. -
Meydan Okuma: Ağ bir Voltaj Kontrollü Osilatör (VCO) olarak hareket etmelidir. Statik bir genliği dinamik bir zamansal periyoda dönüştürmelidir.
-
Sonuç: Mükemmel Salınım. Ağ 30+ adım boyunca düzgün sinüs dalgaları üretiyor.
Frekans Kontrolünü Görmek için
Frekans 0.15 (Yavaş Dalga): t=1: Hedef 0.1494 | OdyssNet 0.3560 t=6: Hedef 0.7833 | OdyssNet 0.7703 t=11: Hedef 0.9969 | OdyssNet 0.9914 t=16: Hedef 0.6755 | OdyssNet 0.6797 t=21: Hedef -0.0084 | OdyssNet 0.0087 t=26: Hedef -0.6878 | OdyssNet -0.6733 Frekans 0.45 (Hızlı Dalga): t=1: Hedef 0.4350 | OdyssNet 0.1842 t=26: Hedef -0.7620 | OdyssNet -0.7556 -
Script:
examples/advanced/convergence_sine_wave.py -
Çıkarım: OdyssNet bir Programlanabilir Osilatördür. Bu, tek bir tohumdan sonsuz benzersiz zamansal yörüngeler üretebileceğini doğrular.
-
Hedef: A Girişi (
$t=2$ ), B Girişi ($t=8$ ). A+B Çıkışı ($t=14$ ). -
Meydan Okuma: OdyssNet, A'yı 6 adım "hatırlamalı", sessizliği görmezden gelmeli, B'yi almalı ve toplamı hesaplamalıdır.
-
Sonuç: MSE Kaybı: ~0.01.
"Zihinsel Matematik" Sonuçlarını Gör
-0.3 + 0.1 = -0.20 | OdyssNet: -0.2040 (Fark: 0.0040) 0.5 + 0.2 = 0.70 | OdyssNet: 0.6526 (Fark: 0.0474) 0.1 + -0.1 = 0.00 | OdyssNet: 0.0101 (Fark: 0.0101) -0.4 + -0.4 = -0.80 | OdyssNet: -0.8082 (Fark: 0.0082) -
Script:
examples/advanced/convergence_adder.py -
Çıkarım: Kısa Süreli Belleği doğrular. Ağ, kaotik durumunda
$A$ değişkenini tutar,$B$ 'yi bekler ve toplamı çıkarmak için doğrusal olmayan entegrasyon (yaklaşık aritmetik) gerçekleştirir. Bu, OdyssNet'in Video benzeri veri akışlarını işleme yeteneğini gösteriyor. "Zihinsel Matematiğe" benzer.
-
Hedef: Tetikleyici nabzı beklemek. Alındıktan sonra çıkışı AÇIK konuma geçirmek ve sonsuza kadar tutmak.
-
Meydan Okuma: Standart RNN'ler sıfıra söner. OdyssNet enerjiyi kararlı bir çekicide hapsetmelidir.
-
Sonuç: Mükemmel Kararlılık. Tetiklendikten sonra karar süresiz olarak korunuyor.
"İrade" Günlüğünü Gör
Tetikleyici t=5'te gönderildi t=04 | Out: -0.8797 | KAPALI 🔴 t=05 | Out: -0.7439 | KAPALI ⚡ TETİKLEYİCİ! t=06 | Out: 0.8076 | AÇIK 🟢 ... t=19 | Out: 0.9020 | AÇIK 🟢 ... t=30 | Out: 0.9716 | AÇIK 🟢 (kararlı platoya ulaşıldı) -
Script:
examples/advanced/convergence_latch.py -
Çıkarım: Karar Sürdürmeyi gösteriyor. OdyssNet bir seçim yapabilir ve buna bağlı kalabilir, çürümeye direnir.
-
Hedef: "X adım bekle, sonra ateş et." (Bekleme sırasında giriş yok.)
-
Meydan Okuma: Ağ, herhangi bir dış saat olmadan zamanı dahili olarak saymalıdır.
-
Sonuç: MSE Kaybı: ~0.01. Hassas zamanlama sağlandı.
"Ritim" Çıktısını Gör
Hedef Zamanlayıcı: 10 adım (Giriş değeri: 0.50) t=09 | Out: 0.4437 ████ t=10 | Out: 0.9245 █████████ 🎯 HEDEF t=11 | Out: 0.6489 ██████ Sonuç: t=10'da zirve (Hata: 0) Hedef Zamanlayıcı: 20 adım (Giriş değeri: 1.00) t=19 | Out: 0.3991 ███ t=20 | Out: 0.9087 █████████ 🎯 HEDEF t=21 | Out: 0.6297 ██████ Sonuç: t=20'de zirve (Hata: 0) -
Script:
examples/advanced/convergence_stopwatch.py -
Çıkarım: Ritim & Zaman Algısını gösteriyor. OdyssNet yalnızca veri işlemiyor; zamanı deneyimliyor.
-
Hedef: İkili veri akışını izlemek. YALNIZCA
1-1deseni oluştuğunda alarm vermek. -
Kritik Bükülme: Ağa, bitler arasında Düşünmesi için 3 adım "Sessizlik" verdik.
-
Sonuç: Mükemmel Tespit.
"Aha!" Anını Gör (Düşünme Adımları)
Zaman | Giriş | Çıkış | Durum ---------------------------------------- 8 | 0 | -0.0680 | 12 | 1 | -0.9009 | 16 | 1 | -0.0650 | ATEŞLEMELİ 17 | . | 0.8835 🚨 | (Düşünüyor...) 18 | . | 0.9051 🚨 | (Düşünüyor...) 19 | . | 0.8961 🚨 | (Düşünüyor...) -
Script:
examples/advanced/convergence_detective_thinking.py -
Çıkarım: Zekanın Zamana İhtiyaç Duyduğunu kanıtlıyor. Sessiz adımlar sırasında bilgiyi "sindirmesine" izin verildiğinde, OdyssNet salt reaktif ağların çözemeyeceği karmaşık zamansal mantığı (Zaman Boyunca XOR) çözüyor. Bu, LLM yaklaşımımızın temelidir.
-
Hedef: Küçük bir OdyssNet'e gecikmeli iki darbenin toplamını öğretmek, öğrenilen ağırlıkları daha büyük bir OdyssNet'e transplant etmek ve çarpma görevinde transplanted ağ ile scratch ağı karşılaştırmak.
-
Meydan Okuma: Zamansal aritmetik bilgisinin daha zor ama ilişkili bir göreve öğrenme hızlandırıcı olarak taşınıp taşınmadığını test etmek.
-
Sonuç: Kontrollü başa baş koşuda net transfer üstünlüğü. Transplant edilen model, scratch modelin hiç ulaşamadığı bir kayba iniyor.
Transfer vs Scratch Günlüğünü Gör
Küçük ADD final kayıp: 0.073182 Transplant copied: 3448/51796 (%6.7) MULTIPLY final kayıp | transplanted=0.016486 | scratch=0.028157 loss <= 0.020 eşiğine iniş | transplanted=194 | scratch=hiç Test MAE | transplanted=0.196066 | scratch=0.203422 -
Script:
examples/advanced/convergence_skill_transfer.py -
Çıkarım: OdyssNet içsel beceri yapısını görev ve ölçek değişiminde taşıyabiliyor. Büyük modelin parametrelerinin yalnızca %6.7'si vericiden geliyor ve bu oran eğitimin nerede bittiğini değiştirmeye yetiyor. Bu, bileşimsel öğrenme yönünde somut bir adım.
-
Hedef: Sekiz beden tek bir 21.280 parametreli çekirdeği paylaşıyor. Her birine, her bölümde yeniden çizilen 8 sembollük bir halkanın tek bir kenarı gösteriliyor, başka hiçbir şey. Ardından her bedenin gizli durumu ve dikkat önbelleği siliniyor ve her bedenden bir sorgu sembolünden başlayarak halkayı yürümesi isteniyor; kenar başına bir yankı adımı.
-
Meydan Okuma: Silme sonrasında hiçbir bedende özel olarak tutulan bir şey kalmıyor. Bedenler birbirine değmiyor: ayrı durumlar, ayrı önbellekler, ayrı forward geçişleri, özel girdi ve çıktılar. Bir bedenin kendi kenarının ötesinde verdiği her cevap, kovanın paylaşılan çekirdek üzerinde bıraktığı plastik izden gelmek zorunda; kütüphane bu izi batch ortalaması olarak havuzlayıp bir sonraki çağrıda her bedene geri veriyor.
-
Sonuç: Hiçbir bedenin görmediği kenarların kusursuz hatırlanması ve iki farklı bedende duran kenarların kusursuz bileşimi. Aynı ağırlıklarla, aynı girdilerle ama ayrı ayrı koşulduğunda hepsi şansa düşüyor.
Kovan ile Yalnız Arıyı Karşılaştır
hop 0 hop 1 hop 2 hop 3 birlikte (tek bellek) 1.000 1.000 1.000 1.000 ayrı (arı tek başına) 1.000 0.297 0.134 0.094 birlikte, bellek boş 1.000 0.147 0.141 0.112 (şans 0.125; hop 1 başka bir arının kenarı, hop 2 iki arının kenarını gerektirir) Bir arının kenarı değiştirildiğinde: başka bir arının cevabı değişimi izliyor 1.000 aynı arı tek başına koşunca cevap aynı 1.000 Başka bir kovanın belleği takıldığında: cevaplar takılan halkayla uyuşuyor 1.000 cevaplar sorulan halkayla uyuşuyor 0.147 Arılar birlikte veya ayrı koşup sonradan havuzlandığında: bellekteki en büyük fark 2.980e-08 (ölçek 3.173e-01) Foraging'den sonra inşa edilmiş, hiç koşmamış arı: kovanın belleği üzerinde hop 1 1.000 hebb_type=None, birlikte, hop 1 0.125 (şans) halka 1 -> 6 -> 7 -> 3 -> 5 -> 2 -> 0 -> 4 -> 1 arı 7'ye yalnızca 4 -> 1 gösterildi, başka hiçbir şey 7'den yürümesi istendi: 7 -> 3 -> 5 -> 2 (halka diyor ki 7 -> 3 -> 5 -> 2) -
Script:
examples/advanced/convergence_hive_mind.py -
Mekanizma:
hebb_type='temporal', aynı protokolde alternatiflerine karşı ölçüldü (1.000 adım, CPU). Bir kenar yönlüdür veh_previleh_teşleşmesi de yönlüdür;h_t'nin kendisiyle eşleşmesi değildir;hebb_type='spatial'tek başına şanstan hiç ayrılmıyor (hop 1'de 0.169). Attention burada bir kanal değil: önbellek beden başınadır ve sorgudan önce siliniyor, kovan attention kapalıyken birebir aynı ölçülüyor.hop 1 hop 2 hop 3 'temporal'(sevk edilen), seed 42, 7 ve 1231.000 1.000 1.000 'temporal', attention kapalı1.000 1.000 1.000 'both', seed 42 / seed 71.000 1.000 1.000 / 0.200 'spatial'0.169 0.134 0.122 None0.125 — — -
Çıkarım: Paylaşılan bir checkpoint değil, kolektif bir zihin. Bir bedenin çalışma anında öğrendiğini (gradyan adımı yok, ağırlık güncellemesi yok, üstelik yalnızca o bölümde var olan bir halka üzerinde) diğer bütün bedenler okuyabiliyor; kovan yiyecek ararken henüz var olmayan bir beden dahil. Yalnızca okuma eğitiliyor: çalışma geçişi
torch.no_grad()altında koşuyor, yani yazma kuralı mimarinin kendi plastisitesi. Ve bir yankı adımı bir kenar yürüdüğü için bileşim derinliği zamansal derinliktir: yedi hop'a eğitildiğinde aynı koloni dört kenar boyunca 1.000'i koruyor, sonra 0.884, 0.775, 0.228.
-
Hedef: Difüzyonla sınıf-koşullu MNIST üretimi.
-
Yön: Gürültü + sınıf + saat → 28×28 görüntü, 16 gürültü giderme adımında.
-
Kurulum:
- Mimari: 512 nöronlu OdyssNet (192 giriş, 192 çıkış, 128 gizli).
- Strateji: 16 difüzyon karesi × 4 yankı adımı = 64 düşünme adımı, tek türevlenebilir ileri geçiş olarak; böylece gizli durum, attention önbelleği ve plastik iz her difüzyon adımını aşar.
- VAE yok:
vocab_mode='continuous'ile modelin kendi projeksiyonları kodlayıcı ve kod çözücü olur. Öğrenilen her parametre OdyssNet'in içindedir. - Toplam Parametre: 573,376; Stable Diffusion'ın ~860M parametreli UNet'ine karşı.
-
Sonuç: RTX 3060 Ti'de 15 dakikada,
--mode evalile yeniden puanlanan %91.2 koşullama sadakati, doğrulama x₀-MSE 0.0800, yani hiçbir şey yapmayan tahmin edicinin %8.6'sı. Örnekleme rastlantısal olduğu için bu değer oynar: 10–100 örnekleme yığın boyutları arasında %90.8–%92.8. -
Mekanizma: eşleştirilmiş, belleği olmayan bir kontrole karşı ölçüldü: aynı kareler, aynı hedefler, aynı gradyan bütçesi, ancak ayrı çağrılar hâlinde verilerek gürültü gidericinin her kareye sıfırdan başladığı durum; bir UNet örnekleyicisinin yaptığı tam olarak budur.
Kol başına 3 dk, tohum 54321 doğrulama MSE sadakat Fréchet parametre yörünge (varsayılan) 0.0967 %83.6 19.92 573,376 4 attention kafası 0.1250 %83.0 30.42 901,184 paylaşımlı-epsilon yörünge 0.1762 %83.4 18.91 573,376 belleksiz kontrol 0.3054 %10.4 152.32 573,376 Paylaşımlı-epsilon satırı yerleşmiş bir sonuç değil, bir uyarıdır: her kareyi tek bir epsilondan türetmek modelin gürültü giderici yerine bir ters çevirme öğrenmesine izin verir ve iid ızgarası bunu yakalar (0.0967'ye karşı 0.1762); örnek kalitesindeki cezası ise 42 tohumunda görülüp bu tohumda kayboldu (%83.4'e karşı %83.6).
--traj-noise iidvarsayılandır çünkü örnek sütunlarında hiçbir zaman daha kötü olmadı. -
Yürüyüş bir kadrandır: sabit ızgarada değildir, çünkü ağırlıklar tek bir kadansa göre oturur ve sadakat 6 adımda %97.2 iken 64 adımda %68.8'e düşer. Adım sayısını her batch'te çekmek (
--k-range, 12–20 ile varsayılan) bu yayılımı bir tohumda 42.8'den 14.8'e, diğerinde 45.4'ten 10.4'e indirir ve Fréchet mesafesini düz tutar. 12–20 aralığında eğitilmesine rağmen aralığın iki yanında, K=4 ve K=64'te de tutar: öğrendiği şey gördüğü aralık değil, kadansın okunacak bir büyüklük olduğudur. Düşünme derinliğini de çekmek (--e-range, 2–6 ile varsayılan) aynısını eko ekseni için yapar; yayılımı 10.2'den 5.8'e ve 6.2'den 2.6'ya indirir, üstelik adım sayısı eksenini de düzleştirir; yani ikisi bağımsız kadranlar değildir. Bkz.--mode flex. -
Gürültüyle görüntü arasındaki yol bir tablodur: her örnekleyici ve hedef çizelgeyi
alpha_barvesigmaüzerinden okur, dolayısıyla rectified-flow'un düz yolu yalnızca tablonun değişmesidir;_step_eulerzaten başka koordinatlarda yazılmış flow-matching Euler'ıydı.--interpolant rfvarsayılandır ve dayanağı CIFAR-10'dur: cosine ile aynı koşullama sadakati, iki tohumda da daha iyi Fréchet mesafesi. MNIST ikisini ayırt edemedi; bu da hangi ölçütün hangi soruyu yanıtladığına dair kendi başına bir sonuçtur. -
Script:
examples/advanced/experiment_diffusion.py -
Çıkarım: Difüzyon zaman üzerinde bir döngüdür, OdyssNet ise derinliği zaman olan bir ağdır; dolayısıyla gürültü giderme yörüngesi ile düşünme yörüngesi aynı nesnedir ve onu taşımak, aynı parametre sayısında belleksiz bir gürültü gidericiye göre koşullama sadakatini rastlantı seviyesinden %83.6'ya çıkarır. Örnek, mimarinin yapamadığını da gösterir: çıktı, görüntünün rank-
n_outboyutlu bir izdüşümüdür, bu yüzden epsilon tahmini yapısal olarak imkânsızdır: beyaz gürültü tam ranklıdır ve ölçülen 0.791, bu rankın dayattığı 0.755 tabanında oturur. Bunun yerine x₀ tahmin etmek varyansın %3.4'üne mal olur ve kaybı sekiz katı azaltır. Ayrıca sabitK*Ehesap bütçesinde, bu bütçeyi gürültü giderme adımları yerine yankı derinliğine harcamak sadakati %73.0'ten %95.0'e çıkarır; bunu ancak derinliği zaman olan bir mimari sorabilir.
OdyssNet, yapay zekanın fabrika modeline karşı bir isyandır. Zekanın mekanik bir katman yığını değil, sinyallerin organik bir rezonansı olduğuna inanıyoruz.
Uzayı Zamanla takas ederek sıfır gizli katmanla görmeyi çözebilirsek, bu yaklaşım dil modellerine ölçeklenebilir.
- Hipotez: 1 milyar parametreli bir model (OdyssNet-1B), daha fazla adım "düşünerek" teorik olarak çok daha büyük modellerin (örn. Llama-70B) akıl yürütme derinliğiyle eşleşebilir.
- Hedef: Tüketici donanımında (örn. RTX 3060) verimli, yüksek-akıl yürütmeli yapay zeka.
- Yeni Kanıt: Toplama -> Çarpma transplant deneyinde becerinin ölçek değişimine rağmen korunması ve yeni görevi hızlandırması, AGI yolunun gerçekçi olduğuna dair güçlü bir sinyal veriyor.
"Petabaytlarca VRAM'e ihtiyacımız yok. Sadece Zamana ihtiyacımız var."
Yeterli zaman "düşünmek" ve "nefes almak" için verilen kaotik bir nöron ormanının devasa endüstriyel fabrikaları geride bırakabileceğini kanıtladık. Uzayı Zamanla takas ederek Ruhu buluyoruz.
Yeni bir örnek veya deney eklemek mi istiyorsunuz? Standartlar ve en iyi uygulamalar için CONTRIBUTING.md dosyasına bakın. Tam kütüphane API referansı için docs/LIBRARY.md dosyasına bakın.
Cahit Karahan
- Doğum: 12/02/1997, Ankara.
- "Kaosun Mimarı."
MIT

