Informaatio-lukupiiri
Wikizia
Seuraava info-lukupiiri
Viimeisin tieto ajankohdasta: ennen juhannusta (joka ei ihan pitänyt)
Vaviskaa Bayes, Rissanen ja Gold, vuorossa on Gödel-teemakokoontuminen.
- The Impact of Incompleteness Theorems on Mathematics (pdf) auttaa alkuun. AMS-Noticesin artikkelit ovat yleensä helppoja lähestyä.
- Gödel's Theorem and Information (pdf) saattaisi sitoa vähän tuohon informaatioon, ellei algoritmisesta infoteoriasta ole jo yliannostusta.
- Review of 'Gödel's Theorem: An Incomplete Guide to Its Use and Abuse'(by Torkel Franzen) Notices of the AMS 54 (2007). Se Raatikaisen Notices juttu jota muistelin olikin tämä kirja-arvostelu. Lyhyt ja helppo.
- Tähän mennessä käsiteltyjä aiheita (noista lihavista löytyy ihan oikeata keskustelua):
- Entropia, ja Shannonin klassinen (1948) paperi A Mathematical Theory of Communication
- Mitä on organisaatio, eli käytiin läpi Charles H. Bennettin paperia Dissipation, information, Computationla Complexity and the Definition of Organization (1985)
- Algoritminen informaatioteoria, G J Chaitinin paperi Algorithmic information theory (1977)
Solomonofilta luettiin A formal theory of inductive inference: Part I (1964), ja katsottiin Algorithmic Probability, AI and NKS (ram). Lisäksi puhetta oli Lempel-Ziv algoritmista.
Suljettiin keskustelu algoritmisesta informaatioteoriasta lukemalla S.Legg (2006). Is there elegant universal theory of prediction?. Monimutkaisissa maailmoissa tarvitaan välttämättä monimutkaisia ennustimia, ja sitten kun ennustimen Kolmogorov-kompleksisuus on luokkaa tuhat-log-log2-n, niin Gödelin epätäydellisyystuloksista seuraa, että algoritmin toimivuutta ei voi enää todistaa.
Mahdollisia tulevaisuuden suuntaviivoja
Fisherin informaatio
Yet another information concept... Tuttu tilastotieteestä, ja läsnä siellä joka paikassa. Mutta voidaanko siitä johtaa jopa kaiken fysikaalisen syvin olemus?
- Fisher Information, a New Paradigm of Science - B. Roy Frieden
- Arvostelu liittyen yllämainittuun kirjaan.
- Ja toinen hieman kriitisempi arvostelu.
Näissä tietysti helpottais jos olis Langrangianit ja Schrödingerin yhtälöt vähän edes hanskassa, mut kai niitä muutenkin voi katsella. Toisaalta vaikka toi olisi huuhaata, niin ehkä tämänkin käsitteen voisi avata, vaikka ihan sitten vain niin, että miten sitä käytetään tilastotieteessä. Se on kuitenkin pohjana niinkin seksikkäälle jutulle, kuin informaatiogeometria. aaahhh...
The Computer Journalissa on teemanumero Kolmogorov-kompleksisuudesta. Artikkeleita mm. Rissaselta, Solomonoffilta, Vitányilta... Osa ainakin näytti kohtuullisen "introductory level" tavaralta.
MDL
Täällä olisi jonkinmoinen tutoriaali, jonka ensimmäinen kappale on "conceptual, entirely non-technical introduction to the subject"
Tuorretta arkhiivista: The Power and Perils of MDL. Käytännön sovelluksista ja vaikeuksista, alussa kiva palapelianalogia...
Niitä kognitiivisempia juttuja?
- Eräs visio lukupiirin missiosta:
Ylipäätänsä ehdottaisin että selvitetään onko Shannon-informaatiolla ylipäätänsä mitään merkitystä insinööritieteiden ulkopuolella ja kelaillaan hiukan eri informaation määritelmien hassumpia ominaisuuksia, kuten esim. subjektiivisuutta ja epäintuitiivisuuksia kuten kohinan korkeaa informaatiosisältöä. Olisi myös kiva tietää onko informaatioteoria tieteistä se kaikkein merkittävin, vaiko silkkaa havinaa... --Tiko
