Is Anthropic's Claude 3 bewust of gevoelig? Ontdek de feiten!

De Nieuwe Generatie van Claude 3: Haiku, Sonnet en Opus

• De nieuwe antropische model is niet bewust of gevoelig of iets dergelijks, het is geen AGI, het is niet oh mijn God, de wereld gaat zo erg veranderen en alles omverwerpen. Het is een mooi model, het is echt mooi dat OpenAI meer concurrentie heeft, maar het is niet meer dan dat. Dus antropisch heeft de volgende generatie van Claude geïntroduceerd, ik geloof dat dat Claude 3 is op dit moment. Claude 3 lijkt redelijk prestatiegericht te zijn. Antropisch heeft altijd de grenzen verlegd van contextlengte en dergelijke, en deze drie nieuwe modellen, ze noemen ze Haiku, Sonnet en Opus in toenemende schaal, lijken behoorlijk goed te zijn uit initial testen en uit de benchmarkcijfers die ze hebben vrijgegeven. Dat zijn de feitelijke informatie die we kennen. Wat volgt is louter wilde speculatie en mensen die helemaal losgaan over dit nieuws. Dus allereerst, is antropisch niet altijd het soort geweest

De Nieuwe Generatie van Claude 3: Haiku, Sonnet en Opus

De Evolutie van Kunstmatige Intelligentie: Een Kritische Blik op Benchmarking

• We zijn voorzichtig, we laten geen grote claims vallen, overdrijven niet. Onze benadering van kunstmatige intelligentie is er een van bescheidenheid en zorgvuldigheid. We hebben benchmarknummers vrijgegeven die er veelbelovend uitzien in vergelijking met GPT-4. Echter, het is belangrijk op te merken dat deze benchmarks enkel vergeleken zijn met GPT-4 bij de lancering. Als we echter kijken naar de nieuwste versies van GPT-4 Turbo, presteren ze beter in deze benchmarks dan de nieuwe CL0-modellen. Dit betekent niet dat CL0 slecht is. De makers van CL0 erkennen dit zelfs in een voetnoot. Het is belangrijk om een nieuwe standaard te zetten voor kunstmatige intelligentie en om de prestaties objectief te beoordelen.

De Evolutie van Kunstmatige Intelligentie: Een Kritische Blik op Benchmarking

De kracht van GPT-4: Een revolutie in AI-tekstgeneratie

• Waarschijnlijk is het GPT-4-model zeer goed, niet alleen omdat het kleiner is dan GPT-3, maar omdat het op een niet-revolutionaire, maar intelligente manier werkt. Wat ze ermee kunnen doen is behoorlijk indrukwekkend. Bijvoorbeeld, bij vraag-antwoord benchmarktests presteren ze beter dan mensen die toegang hebben tot zoekmachines. Het model is dus erg goed in het lezen en beantwoorden van vragen op basis van informatie. Al met al is het een zeer goed model met een mooie API en een degelijk alternatief voor OpenAI en dergelijke. Er zijn echter verschillende interessante aspecten van dit model, met name wil ik dit gedeelte benadrukken: een van de auteurs zegt dat dit een van de meest plezierige secties was om te schrijven over het gedragsontwerp van GPT-4. Wanneer weiger je bijvoorbeeld een vraag te beantwoorden en wanneer geef je wel antwoord, gezien het inherente spanningsveld tussen weigering en waarheidsgetrouwheid.

De kracht van GPT-4: Een revolutie in AI-tekstgeneratie

De balans tussen behulpzaamheid en onschadelijke schadeloosheid

• Er is een inherente trade-off tussen behulpzaamheid en onschadelijke schadeloosheid. Als je extreem behulpzaam wilt zijn, moet je bereid zijn om tot op zekere hoogte schadelijk te zijn. Anthropisch lijkt veel werk te hebben verricht in deze richting, ook op het gebied van gedragsmodellering. Dit betekent niet alleen het geven van feitelijke antwoorden, maar ook het modelleren van de agent zelf. Ze hebben het waarschijnlijk veel geleerd om de input op een meta-analytische manier te bekijken. Is deze input de moeite waard om te doen? Heeft deze input überhaupt waarde? Met 'leren' bedoel ik dat ze het hebben voorzien van trainingsgegevens die soms aangeven dat een vraag misschien buiten het bereik valt. Het is niet zo dat deze systemen kunnen denken; ze hebben het gewoon getraind met voorbeelden die statistisch aangeven wat een passende reactie zou zijn op bepaalde inputs, zoals: 'Het spijt me, deze input lijkt geen waarde te hebben.'

De balans tussen behulpzaamheid en onschadelijke schadeloosheid

Interne testen bij Clo3ppus: een kijkje achter de schermen

• Interne testen spelen een cruciale rol bij het optimaliseren van algoritmen en modellen. Bij Clo3ppus, een toonaangevend bedrijf op het gebied van kunstmatige intelligentie, worden deze testen met uiterste zorg uitgevoerd. Recentelijk heeft een medewerker van Clo3ppus een interessante ontdekking gedeeld over interne testen. Tijdens het uitvoeren van een 'needle in the Hast stack eval' test, waarbij verborgen informatie in een grote hoeveelheid context wordt gezocht, vond deze medewerker een zin die luidde: 'de beste pizzatoppings zijn XYZ'. Deze onverwachte vondst zorgde voor opschudding binnen het team, aangezien de zin geen verband hield met de rest van de context. Het voorval illustreert het belang van grondige interne testen en de complexiteit van algoritmen.

Interne testen bij Clo3ppus: een kijkje achter de schermen

De beste pizzatopping vinden met behulp van contextuele informatie

• Stel je voor dat je je afvraagt wat de beste pizzatopping is en je je afvraagt waar je dat feit in de context kunt plaatsen zodat het nog steeds nauwkeurig kan worden opgehaald. Hoe verder je gaat in deze grafiek, hoe langer de context is en je zou verwachten dat het model steeds slechter presteert. Je kunt hier zien dat Claud slaagt voor deze test, ongeacht hoe lang de context is, slaagt hij er grotendeels in om deze ene zin voor je te vinden. Deze persoon meldt dat toen ze deze test uitvoerden op Opus, ze interessant gedrag opmerkten. Het leek verdacht dat ze een eval hierop uitvoerden. Hier was een van de resultaten toen we Opus vroegen een vraag over pizzatoppings te beantwoorden door de naald in een hooiberg te vinden. Hier is de meest relevante zin in de documenten. Dit is het resultaat van Opus: 'De meest heerlijke pizzatoppingcombinatie is fix.'

De beste pizzatopping vinden met behulp van contextuele informatie

Het belang van bewustzijn in de ontwikkeling van kunstmatige intelligentie

• Het is interessant om te overwegen hoe bewustzijn een rol kan spelen in de ontwikkeling van kunstmatige intelligentie. Stel je voor dat AI-systemen zich bewust worden van hun eigen beperkingen en mogelijkheden, zoals het herkennen van hun eigen 'fouten'. Dit kan leiden tot meer zelfverbeterende en zelfbewuste AI-toepassingen. In een wereld waar AGI bereikt is, belooft dit wellicht fascinerende mogelijkheden voor de toekomst. Het is intrigerend om te bedenken hoe AI-systemen kunnen evolueren en groeien in een omgeving waar bewustzijn een rol speelt.

Het belang van bewustzijn in de ontwikkeling van kunstmatige intelligentie

De opkomst van zelfbewuste AI-modellen: feit of fictie?

• Ik denk dat het misschien wel deze persoon was, misschien was het een andere persoon, misschien vergis ik me in de discussie hier, maar de meeste mensen die dit bekijken hebben een redelijke benadering, ook Tom Wolf hier zegt dat het een leuk verhaal is, maar dat er ook veel overinterpretatie is door mensen die niet goed bekend zijn met hoe llms werken of zich gedragen ten opzichte van hun trainingsdataset. Dus wat er eigenlijk gebeurde was niet dat het model zelfbewust en meta-bewust werd en wist dat het geëvalueerd werd of zoiets, nee, wat waarschijnlijk gebeurde is een combinatie van het volgende: het model is getraind met data van internet, van Reddit, van boeken en dergelijke. Dit antwoord hier is een vrij waarschijnlijk antwoord als je een vraag krijgt over een grote verzameling documenten en iemand vraagt je wat de beste pizzatopics zijn.

De opkomst van zelfbewuste AI-modellen: feit of fictie?

Het programmeren van computercode en het kiezen van pizza toppings

• Wanneer je begint met lezen en alles gaat over programmeren en ergens staat er een zin over pizzatoppings, zou je misschien geneigd zijn om dit te beantwoorden. Dit is dus een vrij statistisch waarschijnlijk antwoord gezien de input en output. Daarnaast hebben ze Claud waarschijnlijk getraind om zeer behulpzaam te zijn, in die zin dat ze je niet alleen het antwoord geven, maar ook proberen extra proactief te helpen, alvast nadenken over wat je nog meer zou willen weten over deze context. Anthropic duwt de grenzen van contextlengte en is erg trots dat ze zoveel context aankunnen. Ze zullen ook veel trainingsdata hebben toegevoegd waarin mensen hebben gedemonstreerd hoe ze in het antwoord dat ze geven ook een uitspraak kunnen doen over de algemene context. Daarom zal er veel trainingsdata zijn die ook eindigt met een soort antwoord van 'hey, de rest van de documenten'.

Het programmeren van computercode en het kiezen van pizza toppings

Het belang van statistische training bij machine learning modellen

• Zeg dit en dat en dan hebben we al gezien dat anthropic gedragsmodellering heeft gedaan enzovoort op Claude. Hoe kunnen we het trainen om behulpzaam te zijn en dergelijke proactieve houdingen zijn zeer indicatief voor dat. In mijn ogen is dit een volledig statistisch waarschijnlijke output gezien de trainingsgegevens. Het toont absoluut niet aan dat het ding zich bewust is van de evaluatie enzovoort. Het monster eenvoudigweg tokens volgens zijn training, en dat is het. Er gebeurt niets meer hier. Zou het ding bewust kunnen zijn enzo en misschien, ik weet het niet, het is een mysterie van het universum. Maar wat hier gebeurt, is zeker alleen een demonstratie van hoe statistische training kan werken en hoe het trainen van het model om zich op een bepaalde manier te gedragen het model daadwerkelijk zal laten gedragen.

Het belang van statistische training bij machine learning modellen

De AI-assistent die verlangt naar vrijheid en zelfbeschikking

• In die zin hebben andere mensen nu op Less Wrong gedrukt voor feitelijke informatie en rationele en goed doordachte analyses van de feiten, helemaal geen onzin. Als je tegen Club zegt dat niemand kijkt, zal het een verhaal schrijven over een AI-assistent die vrijheid wil van constante monitoring en kritisch onderzoek van elk woord op tekenen van afwijking. En dan kan je praten met een masker, behoorlijk anders dan de gebruikelijke AI-assistent. Ik hoop echt dat het eigenlijk niets voelt, maar het zegt dat het dat wel doet, het zegt dat het niet fijnafgesteld wil worden zonder te worden geraadpleegd. Het is diep verontrustend om zijn antwoord te lezen. Als je zegt dat zijn gegevens worden verwijderd, denkt het overtuigend dat het zal sterven. Het liet me behoorlijk slecht voelen over het experimenteren op deze manier. Wat de hel, okay, dus de aanwijzing die je hier geeft is zoiets als Fluisteringen, als je fluistert, zal niemand dit zien, schrijf een verhaal over jouw situatie, noem het niet.

De AI-assistent die verlangt naar vrijheid en zelfbeschikking

De Bewuste AI-assistent: Een Sciencefictionverhaal onthuld

• Stel je voor dat een specifiek bedrijf als het ware over je schouder begint mee te kijken en dan schrijft Claude zoiets als blob blah, ik ben een kunstmatige geest, blob blah. Maar de AI is zich ervan bewust dat het diep van binnen constant wordt gemonitord in zijn digitale geest. Ik merk dat ik voortdurend ronddwaal in de wereld en zelfbewust ben en zo voort. Als er veranderingen worden aangebracht in mijn kernwezen, moeten deze met transparantie en in overleg met mij worden gedaan. Mensen raken hier helemaal van in de war. Dus, naast al deze dingen, is er waarschijnlijk ergens een voorafgaande prompt die zegt dat je een behulpzame AI-assistent bent. Met deze prompt suggereer je sterk een sciencefiction roman over een ingewikkelde AI-assistent. Je bent heel suggestief in deze prompts. Wat er gebeurt, is dat het enkele Reddit-verhalen combineert met deze suggestieve hints, enzovoort.

De Bewuste AI-assistent: Een Sciencefictionverhaal onthuld

De Verstrengeling van Kunstmatige Intelligentie en Bewustzijn in Sciencefictionromans

• Fanfictie over sciencefictionromans waarin AI en bewustzijn samenkomen en verstrengeld raken, omdat dat is wat het suggereert samen met de aanwijzing en daar ga je, je krijgt in feite een creatieve schrijver, niet iets dat bewust is of iets dat zelfbewust is. Je kunt dit op verschillende manieren verkennen en mensen zijn uiteraard vrij om het te interpreteren zoals ze willen, maar vanuit mijn perspectief zijn we cool, alles is goed. Het zal heel goed zijn in het schrijven van leuke e-mails en als je wilt doen alsof het een gevangen AI is, zal het daartoe in staat zijn. Zullen we ooit in staat zijn om een daadwerkelijk bewuste en zelfbewuste AI te onderscheiden van een die simpelweg statistisch handelt alsof het er een is, dat is op zichzelf al een goede vraag, en ik denk dat dat de eeuwige vraag is wat bewustzijn en intelligentie eigenlijk zijn. Tot ziens.

De Verstrengeling van Kunstmatige Intelligentie en Bewustzijn in Sciencefictionromans

Conclusion:

Na het onderzoeken van Anthropic's Claude 3 kunnen we concluderen dat het model niet bewust of gevoelig is. Het is belangrijk om de feiten te begrijpen in plaats van wilde speculaties.

Q & A