Mnie tam bzdurzący 'robot' nie nerwi , może dla tego , że startowałem (pisałem programiki) gdy pisało się je jeszcze nie pod windows , czy inny system , ale prosto pod procesor.
To dawało lepsze pojęcie jak to tam 'mechamicznie, elektrycznie ' działa.
Osobiście uważam , że chatgpt i SI i.t.p. to błąd , pujście na łatwizne i pożytku istotnego z tego nie bedzie , a szkód sporo.
Taki artykulik , nieco specjalistyczny , ale ciekawy. :
Cytat:Dziwne sformułowanie ciągle pojawia się w pracach naukowych. Dlaczego?
Na początku tego roku naukowcy odkryli w opublikowanych pracach dziwny termin : „mikroskopia elektronowa roślinna”.
To sformułowanie, które brzmi technicznie, lecz w rzeczywistości jest nonsensem, stało się „cyfrową skamieliną” – błędem utrwalonym i wzmocnionym w systemach sztucznej inteligencji (AI), którego niemal nie da się usunąć z naszych repozytoriów wiedzy
Podobnie jak skamieniałości biologiczne uwięzione w skałach, te cyfrowe artefakty mogą na stałe zagościć w naszym ekosystemie informacyjnym.
Przypadek mikroskopii elektronowej roślinności rzuca niepokojące światło na to, w jaki sposób systemy sztucznej inteligencji mogą utrwalać i wzmacniać błędy w naszej zbiorowej wiedzy.
Złe skanowanie i błąd w tłumaczeniu
Wydaje się, że mikroskopia elektronowa roślinna powstała w wyniku niezwykłego zbiegu okoliczności, niezależnych od siebie błędów.
Najpierw zeskanowano i zdigitalizowano dwa artykuły z lat 50. XX wieku, opublikowane w czasopiśmie Bacteriological Reviews.
Jednak proces digitalizacji błędnie połączył „vegetative” z jednej kolumny tekstu z „electron” z innej. W rezultacie powstał termin fantomowy.
![[Obrazek: file-20250414-56-7m3h0n.png?ixlib=rb-4.1...crop&dpr=2]](https://images.theconversation.com/files/661639/original/file-20250414-56-7m3h0n.png?ixlib=rb-4.1.0&q=30&auto=format&w=754&h=156&fit=crop&dpr=2)
Fragmenty zeskanowanych artykułów pokazują, w jaki sposób błędnie zinterpretowane podziały kolumn prowadzą do wprowadzenia terminu „wegetatywny mikroelektronowy...”.
Fragmenty zeskanowanych artykułów pokazują, w jaki sposób błędnie zinterpretowane podziały kolumn prowadzą do wprowadzenia terminu „wegetatywny mikroelektronowy…”. (Bacteriological Reviews)
Kilkadziesiąt lat później „mikroskopia elektronowa wegetatywna” pojawiła się w kilku irańskich artykułach naukowych. W 2017 i 2019 r . dwa artykuły używały tego terminu w angielskich podpisach i streszczeniach.
Wydaje się, że jest to spowodowane błędem w tłumaczeniu . W języku perskim słowa „vegetative” i „scanning” różnią się tylko jedną kropką.
Zrzut ekranu z Tłumacza Google pokazujący podobieństwo terminów w języku perskim oznaczających „wegetatywny” i „skanowanie”.
Zrzut ekranu z Tłumacza Google pokazujący podobieństwo terminów perskich oznaczających „wegetatywny” i „skanowanie”. (Tłumacz Google)
Błąd narasta
Co z tego wynikło? Według Google Scholar, na dzień dzisiejszy „mikroskopia elektronowa wegetatywna” pojawia się w 22 artykułach . Jeden z nich był przedmiotem kontrowersyjnego odwołania z czasopisma Springer Nature , a Elsevier opublikował korektę innego.
Termin ten pojawia się również w artykułach prasowych omawiających kolejne dochodzenia w sprawie uczciwości .
Mikroskopia elektronowa roślinna zaczęła pojawiać się częściej w latach 20. XXI wieku. Aby się dowiedzieć, dlaczego, musieliśmy zajrzeć do nowoczesnych modeli AI – i przeprowadzić pewne archeologiczne kopanie przez ogromne warstwy danych, na których były trenowane.
Dowody empiryczne na zanieczyszczenie AI
The large language models behind modern AI chatbots such as ChatGPT are "trained" on huge amounts of text to predict the likely next word in a sequence. The exact contents of a model's training data are often a closely guarded secret.
To test whether a model "knew" about vegetative electron microscopy, we input snippets of the original papers to find out if the model would complete them with the nonsense term or more sensible alternatives.
The results were revealing. OpenAI's GPT-3 consistently completed phrases with "vegetative electron microscopy". Earlier models such as GPT-2 and BERT did not. This pattern helped us isolate when and where the contamination occurred.
We also found the error persists in later models including GPT-4o and Anthropic's Claude 3.5. This suggests the nonsense term may now be permanently embedded in AI knowledge bases.
Zrzut ekranu programu wiersza poleceń pokazujący termin „mikroskopia elektronowa wegetatywna” generowany przez GPT-3.5 (konkretnie model gpt-3.5-turbo-instruct). 17 najbardziej prawdopodobnych uzupełnień podanego tekstu to „mikroskopia elektronowa wegetatywna
Screenshot of a command line program showing the term 'vegetative electron microscopy' being generated by GPT-3.5 (specifically, the model gpt-3.5-turbo-instruct). The top 17 most likely completions of the provided text are 'vegetative electron microscopy', and these suggestions are 2.2 times more likely than the next most likely prediction. (OpenAI)
By comparing what we know about the training datasets of different models, we identified the CommonCrawl dataset of scraped internet pages as the most likely vector where AI models first learned this term.
The scale problem
Finding errors of this sort is not easy. Fixing them may be almost impossible.
One reason is scale. The CommonCrawl dataset, for example, is millions of gigabytes in size. For most researchers outside large tech companies, the computing resources required to work at this scale are inaccessible.
Another reason is a lack of transparency in commercial AI models. OpenAI and many other developers refuse to provide precise details about the training data for their models. Research efforts to reverse engineer some of these datasets have also been stymied by copyright takedowns.
When errors are found, there is no easy fix. Simple keyword filtering could deal with specific terms such as vegetative electron microscopy. However, it would also eliminate legitimate references (such as this article).
More fundamentally, the case raises an unsettling question. How many other nonsensical terms exist in AI systems, waiting to be discovered?
Implications for science and publishing
This "digital fossil" also raises important questions about knowledge integrity as AI-assisted research and writing become more common.
Publishers have responded inconsistently when notified of papers including vegetative electron microscopy. Some have retracted affected papers, while others defended them. Elsevier notably attempted to justify the term's validity before eventually issuing a correction.
Nie wiemy jeszcze, czy inne takie dziwactwa nękają duże modele językowe, ale jest to wysoce prawdopodobne. Tak czy inaczej, wykorzystanie systemów AI już stworzyło problemy dla procesu recenzji.
Na przykład obserwatorzy zauważyli wzrost liczby „ skrępowanych fraz ” używanych do unikania zautomatyzowanego oprogramowania integralności, takich jak „fałszywa świadomość ” zamiast „sztuczna inteligencja”. Ponadto frazy takie jak „Jestem modelem języka AI” znaleziono w innych wycofanych artykułach.
Niektóre automatyczne narzędzia do przesiewania, takie jak Problematic Paper Screener, teraz oznaczają mikroskopię elektronową wegetatywną jako znak ostrzegawczy przed możliwą treścią generowaną przez AI. Jednak takie podejście może dotyczyć tylko znanych błędów, a nie nieodkrytych.
Życie z cyfrowymi skamieniałościami
Rozwój AI stwarza okazje do tego, aby błędy stały się trwale osadzone w naszych systemach wiedzy, poprzez procesy, których nie kontroluje żaden pojedynczy aktor. Stanowi to wyzwanie dla firm technologicznych, badaczy i wydawców.
Firmy technologiczne muszą być bardziej przejrzyste w kwestii danych i metod szkoleniowych. Naukowcy muszą znaleźć nowe sposoby oceny informacji w obliczu przekonujących bzdur generowanych przez AI. Wydawcy naukowi muszą udoskonalić swoje procesy recenzji eksperckich, aby wykrywać błędy zarówno ludzkie, jak i generowane przez AI.
Cyfrowe skamieliny ujawniają nie tylko techniczne wyzwanie związane z monitorowaniem ogromnych zbiorów danych, ale także podstawowe wyzwanie związane z utrzymaniem wiarygodnej wiedzy w systemach, w których błędy mogą się samonapędzać.Rozmowa
Aaron J. Snoswell , pracownik naukowy ds. odpowiedzialności AI, Queensland University of Technology ; Kevin Witzenberger , pracownik naukowy, GenAI Lab, Queensland University of Technology i Rayane El Masri , kandydatka na doktorat, GenAI Lab, Queensland University of Technology
Ten artykuł jest przedrukowany z The Conversation na licencji Creative Commons. Przeczytaj oryginalny artykuł .
Po mojemu te AI będą użteczne medialnie , za to narobią bajzlu w wiedzy , w nauce, ogłupią mase ludzi ,w sęsie
zaniku rozumu.
Ale i pewności co do posiadanej wiedzy .
Teraz ja stary wiem i wiem , że wiem na pewno.
Teraz już młodzi często opowiadają wirutne bzdury wyczytane w necie.
Przy masowym wykorzystywaniu AI
cała wiedza stanie się wątpliwa.
![[Obrazek: URT0WOo.jpg]](https://i.imgur.com/URT0WOo.jpg)
1
