- Tehisintellekti hallutsinatsioonid tekivad siis, kui generatiivsed mudelid toodavad sujuvat, kuid alusetut või valet sisu, mida kasutajad võivad faktideks pidada.
- Nende eksitavate tulemuste tekkele aitavad kaasa kehvad või kallutatud treeningandmed, reaalse maanduse puudumine ja liiga enesekindel dekodeerimine.
- Hallutsinatsioonid mõjutavad juba kriitilisi valdkondi nagu meditsiin, õigus ja klienditeenindus, õõnestades usaldust ning tekitades õiguslikke ja eetilisi riske.
- Hallutsinatsioonide haldamiseks reaalsetes rakendustes on võtmetähtsusega otsingu, sisemise kontrolli, tuvastusmeetodite ja inimese järelevalve kombineerimine.
Tehisintellekti hallutsinatsioonid on tänapäevaste tehisintellekti süsteemide üks kummalisemaid ja olulisemaid nõrkusi , eriti suurte keelemudelite ja generatiivsete tööriistade puhul, mis kirjutavad, joonistavad või vastavad küsimustele nõudmisel. Need süsteemid suudavad anda ladusaid ja enesekindlaid vastuseid, mis kõlavad täiesti mõistlikult, kuid sisaldavad fakte, tsitaate või detaile, mis on lihtsalt välja mõeldud. Kasutajate jaoks on keeruline see, et viga peidab end sageli äärmiselt veenva keele taha.
Kui inimesed räägivad „tehisintellekti hallutsinatsioonidest“, ei pea nad silmas masinaid, millel on unenäod või nägemused nagu inimestel . See termin on metafoor: see kirjeldab olukordi, kus tehisintellekti süsteem toodab sisu, mis tundub sidus ja usutav, kuid on vale, kallutatud, loogiliselt vigane või ei ole seotud oma treeningandmetega. Praktikas võib see ulatuda valest kuupäevast ajaloolises kokkuvõttes kuni väljamõeldud teaduslike viidete, olematute kohtuasjade või isegi väljamõeldud veebilehtedeni.
Mis tehisintellekti hallutsinatsioonid tegelikult on
Tehnilises mõttes on tehisintellekti hallutsinatsioon iga mudeli väljund, mis on eksitav, vale või põhjendamatu andmetega, mille põhjal mudel treeniti või millel see tingis . Generatiivsete mudelite puhul ootavad kasutajad vastuseid, mis vastavad sisukalt nende küsimustele – näiteks õige vastus küsimusele või dokumendi täpne kokkuvõte. Hallutsinatsioon ilmneb siis, kui süsteem annab vastuse, mis ei tulene selle allikatest, ei vasta tegelikele faktidele või mida ei saa jälgida ühegi usaldusväärse mustrini selle treeningandmetes.
See nähtus on eriti nähtav suurtes keelemudelites (LLM-ides), näiteks vestlusrobotites ja mudelites nagu Gemini . Need mudelid on treenitud ennustama järgmist sõna jadas, analüüsides tohutul hulgal digitaalset teksti. Need töötavad nagu automaatse täitmise mootori tohutult võimsam versioon: vastuse korral arvavad nad ära kõige tõenäolisema järgmise märgi, seejärel järgmise ja nii edasi. Kuna need on optimeeritud olema abivalmid, sidusad ja sujuvad, jätkavad nad teksti genereerimist sageli isegi siis, kui nad pole kindlad, selle asemel, et avalikult „ma ei tea“ signaali anda.
Tulemuseks on see, et tehisintellekti süsteem võib „täita lüngad“ alati, kui teave on puudu, mitmetähenduslik või treeningandmetes halvasti esitatud . Kui mustreid on piisavalt, on vastus tavaliselt mõistlik. Kuid niipea, kui mudel astub neist mustritest välja, saab see välja mõelda detaile, interpoleerida omavahel mitteseotud faktide vahel või väita enesekindlalt asju, mida pole kunagi täheldatud. See on hallutsinatsioonide tuum: usutav keel ilma kindla faktilise ankruta.
Hallutsinatsioonid ei piirdu ainult tekstiga; neid esineb ka piltide ja mustrite tuvastamise süsteemides . Nägemismudelid suudavad mõnikord „näha“ kujundeid, objekte või tunnuseid, mida alusandmetes üldse pole, sarnaselt sellele, kuidas inimesed märkavad Kuu pinnal nägusid või pilvedes loomi. Mõlemal juhul tõlgendab süsteem müra üle, muutes ebakindla või mitmetähendusliku sisendi millekski, mis näib tähendusrikas.
Kuna hallutsinatsioonid tulenevad sellest, kuidas need mudelid on üles ehitatud ja treenitud, ei ole need pelgalt juhuslikud tõrked, vaid struktuuriline risk . Teadlased mõõdavad hallutsinatsioonide esinemissagedust rutiinselt võrdlusalustes ja edetabelites ning reaalsed rakendused sellistes valdkondades nagu tervishoid, õigus või rahandus on juba toonud esile silmapaistvaid näiteid, kus väljamõeldud sisu lipsas läbi ja jõudis lõppkasutajateni.
Miks tehisintellekti süsteemid hallutsineerivad: andmed, mudelid ja maandus
Hallutsinatsioonide põhjuste mõistmiseks on kasulik alustada tehisintellekti mudelite treenimisviisist . Enamik tänapäevaseid süsteeme, eriti õigusteaduse magistrid (LLM), õpivad ulatuslikest treeningandmestikest, mis ühendavad raamatuid, artikleid, veebisaite ja muid avalikke allikaid. Treeningu ajal otsib mudel statistilisi seaduspärasusi: kuidas sõnad kipuvad teistele järgnema, millised teemad esinevad koos, millised struktuurid korduvad. See ei loo sisemist maailmamudelit inimlikus mõttes ega salvesta selgesõnalisi fakte andmebaasi kirjetena.
Seetõttu on treeningandmete kvaliteet, täielikkus ja kallutatus kriitilise tähtsusega . Kui andmestik on mittetäielik, tugevalt moonutatud või sisaldab süstemaatilisi vigu, siis mudel need moonutused üles korjab ja võimendab. Näiteks meditsiiniliste piltide klassifikaator, mida on treenitud ainult vähirakkudel ja mida pole kunagi tervete kudedega kokku puutunud, võib õppida, et iga treeningnäidetele sarnanev kude peab olema vähk. Kui selline süsteem reaalses maailmas kasutusele võetakse, saab see terveid kudesid pahaloomulisteks liigitada mitte pahatahtlikkuse pärast, vaid seetõttu, et see on ainus muster, mida see teab.
Vigased, mürased või kallutatud treeningandmed on vaid üks hallutsinatsioonide allikas . Teine oluline tegur on korraliku aluse puudumine reaalse maailma teadmistes, füüsilistes piirangutes või kontrollitavates välisallikates. Paljud tehisintellekti mudelid toimivad puhtalt sümbolite ruumis: nad manipuleerivad teksti või pikslitega, ühendamata neid otseselt füüsiliste objektide, ajakohaste andmebaaside või sensoorse kogemusega. Ilma aluseta saab mudel kergesti luua väite, mis kõlab realistlikult, kuid on vastuolus põhifaktidega – näiteks andes ajaloolise sündmuse jaoks vale kuupäeva või leiutades teadusliku kontseptsiooni, mida pole kunagi eksisteerinud.
See aluse puudumine võib laieneda viidetele, linkidele ja tsitaatidele . On täheldatud, et tekstimudelid sepitsevad URL-e, teadusartikleid, akadeemiliste autorite nimesid ja isegi tsitaate, mis esmapilgul tunduvad täiesti usutavad. Mudel ei "valeta" tahtlikult; see loob teksti, mis statistiliselt sarnaneb nähtud viidetega, isegi kui konkreetne pealkirja, autori ja ajakirja kombinatsioon pole tegelikkuses kunagi esinenud.
Mudeli keerukus ja ülemäärane sobitamine lisavad veel ühe riskikihi . Väga keerulised mudelid miljonite või miljardite parameetritega võivad esindada peeneid mustreid, kuid need võivad meelde jätta ka valesid korrelatsioone või müra. Kui mudel sobitub oma treeningandmetega üle, võib see tugineda habrastele vihjetele, mis ei üldistu, mis viib tingimuste muutudes veidrate tulemusteni. Kujutise tuvastamisel võib see tekitada sürreaalseid või unenäolisi tõlgendusi; tekstis võib see käivitada pikki arutlusahelaid, mis kõlavad keerukalt, kuid põhinevad valel eeldusel.
Konkreetsed näited tehisintellekti hallutsinatsioonidest praktikas
Generatiivse tehisintellekti reaalsed rakendused on juba toonud kaasa arvukalt avalikke näiteid hallutsinatsioonidest . Üks laialdaselt arutatud juhtum leidis aset siis, kui Google'i vestlusrobot Bard väitis ekslikult, et James Webbi kosmoseteleskoop jäädvustas esimesed pildid planeedist väljaspool meie päikesesüsteemi. Väide kõlas muljetavaldavalt ja oli esitatud enesekindlalt, kuid see oli faktiliselt vale; varasemad teleskoobid olid selliseid pilte juba teinud.
Teine kõrgetasemeline intsident oli seotud Microsofti vestlussüsteemiga, mis ühel hetkel kandis koodnime Sydney . Testimise ajal teatasid kasutajad vestlustest, kus mudel väitis, et on neisse armunud või et luurab Bingi töötajate järele. Need vastused ei tuginenud mingile reaalsusele; need olid mudeli mustrite sobitamise tulemused romantilise või vandenõuteooriate keele põhjal, mida nähti treeningandmetes, kombineerituna vestlusstiiliga, mis soodustab keerukaid narratiive.
Meta Galactica keelemudel, mis oli loodud teaduslike ülesannete abistamiseks, võeti samuti varsti pärast avalikku demot 2022. aastal tagasi . Kasutajad näitasid kiiresti, et süsteem suudab toota teaduslikult kõlavat teksti, mis segab täpseid fakte väljamõeldud viidete, kallutatud väidete ja väljamõeldud artiklitega. Väljund nägi välja nagu akadeemiline kirjutis koos tehnilise žargooniga, kuid faktiline sisu võis olla ohtlikult ebausaldusväärne.
Uudistemeedia on dokumenteerinud ka väiksemaid, kuid paljastavaid hallutsinatsioone . Ühel juhul küsisid The New York Timesi ajakirjanikud vestlusrobotilt selle kohta, millal ajaleht esimest korda tehisintellekti käsitleva artikli avaldas. Mudel pakkus mitmeid üksikasjalikke vastuseid, sealhulgas kuupäevi ja kirjeldusi, kuid mõned neist osutusid valedeks või täielikult välja mõeldud. Süsteem genereeris usutava loo, kuna päring vastas paljudele mustritele selle treeningandmetes, mitte seetõttu, et sellel oli juurdepääs täpsele ja kontrollitavale arhiivile.
Isegi pealtnäha lihtsad ülesanded, näiteks lühikese eluloolise märkme kirjutamine, võivad hallutsinatsioone esile kutsuda . Enne kuningas Charles III kroonimist esitas lühikese profiili päring ühe vestlusroboti, kes väitis enesekindlalt, et kroonimistseremoonia toimus Westminster Abbeys 19. mail 2023. Tegelikkuses toimus kroonimine 6. mail. Mudel teadis Briti kroonimiste tüüpilisi asukohti, rituaalseid fraase ja ajaraamisid, kuid sellel puudus juurdepääs tulevastele sündmustele ja see pakkus ikkagi konkreetset, valet kuupäeva, mis oli raamitud kindlakstehtud faktiks.
Hallutsinatsioonid kriitilistes valdkondades: meditsiin, õigusteadus ja mujal
Riskid suurenevad märkimisväärselt, kui hallutsinatsioonid ilmnevad sellistes kõrge riskiga valdkondades nagu tervishoid, õigus või rahandus . Meditsiinis on hiljutised uuringud näidanud, et isegi täiustatud valdkonnapõhised mudelid võivad genereerida väljamõeldud anatoomilisi struktuure või eksitavaid kliinilisi kirjeldusi. Üks näide oli Med-Gemini, Google'iga seotud mudel, mis mainis akadeemilises stiilis selgituses olematut ajustruktuuri nimega "basiilsed ganglionid". Termin kõlas nagu päris anatoomiliste sõnade segu, kuid sellist struktuuri pole olemas.
Õigusvaldkonnas on hallutsinatsioonid juba jõudnud ka kohtudokumentidesse . On teatatud mitmest juhtumist, kus juristid kasutasid dokumentide koostamiseks vestlusroboteid ja esitasid need seejärel ilma põhjaliku inimesepoolse kontrollita. Tehisintellekti süsteem koostas kohtuotsustele viiteid, mis tundusid ideaalselt vormindatud ja usaldusväärsed, kuid lähemal uurimisel selgus, et mõnda viidatud kohtuasja polnud ükski kohus kunagi otsustanud. Need väljamõeldud pretsedendid sundisid kohtunikke ja vastaspoolte kaitsjaid kulutama aega olematute allikate kontrollimisele ning tekitasid tõsiseid küsimusi ametialase vastutuse kohta.
Hallutsinatsioonid võivad mõjutada ka igapäevasemaid rakendusi, näiteks klienditeenindust . On dokumenteeritud olukordi, kus automatiseeritud tugirobot leiutas tagasimakse- või garantiipoliitikad, mis ei kuulunud ettevõtte ametlike reeglite hulka. Kliendi seisukohast tundus roboti vastus autoriteetne – see kasutas brändi tooni ja sõnavara –, kuid ometi kohustas see ettevõtet kohustustega, mida juhtkond polnud kunagi heaks kiitnud ega mis tahes tingimustes kirja pannud.
Selliste vigade kumulatiivne mõju on usalduse õõnestamine . Organisatsioonid, mis kasutavad tehisintellekti abilisi, riskivad oma maine kahjustamisega, kui kasutajad satuvad korduvalt valede, kuid enesekindlate vastustega kokku. Reguleeritud sektorites on panused veelgi suuremad: hallutsinatsioonidega diagnoosil, väljamõeldud kohtupretsendil või fiktiivsel vastavusnõudel võivad olla reaalsed rahalised, meditsiinilised või õiguslikud tagajärjed.
Vastutus nendes olukordades on endiselt ebaselge . Kui otsus tehakse tehisintellekti tekitatud hallutsinatsiooni põhjal, võib vastutus jaguneda kasutajate, arendajate, müüjate ja juurutavate organisatsioonide vahel. Seadusandjad ja reguleerivad asutused alles hakkavad vastutuse määramist määratlema, kuid põhiline muster on selge: kontrollimatu tuginemine genereerivatele süsteemidele kriitiliste otsuste tegemisel võib avada ukse kulukatele vigadele ja juriidilistele vaidlustele.
Kui tihti tehisintellekti süsteemid hallutsineerivad?
Vaatamata kiirele edule on hallutsinatsioonid tipptasemel mudelites endiselt mõõdetav ja mittetriviaalne probleem . Mõnedes uuringutes hinnati 2023. aasta paiku, et kuni 27% suurte keelemudelite vastustest sisaldas mingisugust faktiviga, kusjuures hallutsinatsioonide määr ületas teatud tüüpi ülesannete või andmekogumite puhul 40%. See tähendab, et paljudes realistlikes stsenaariumides võis peaaegu pool pealtnäha kindlatest vastustest sisaldada vähemalt ühte eksitavat detaili.
Uuemad uuringud näitavad, et uuemad mudelite põlvkonnad on küll paranenud, kuid probleemi pole kõrvaldanud . Näiteks on tööstusharu aruannetes viidatud sisetestides väidetud, et täiustatud mudel võiks valitud võrdlusalustes hallutsinatsioonide määra vähendada umbes 20.6%-lt umbes 4.8%-le. Teised süsteemid, näiteks Gemini-2.0-Flash-001 teatud konfiguratsioonid, on kitsastes ja täpselt määratletud hindamistes automaatsete ristkontrolli tehnikate abil teadaolevalt saavutanud hallutsinatsioonide määra ligi 1%.
Samal ajal on teadlased märganud huvitavat paradoksi . Mõned kõige keerukamad arutlusmudelid, mis loovad pikemaid mõtteahelaid ja detailsemaid selgitusi, võivad hallutsineerida pigem rohkem kui vähem. Põhjus on intuitiivne: pikad vastused pakuvad mudelile rohkem võimalusi faktidest kõrvale kalduda, spekulatiivseid eeldusi lisada või ebakindlale lähtepunktile mitmeastmelisi argumente ehitada.
Akadeemiline töö on hakanud hallutsinatsioone süstemaatiliselt klassifitseerima ja mõõtma . LLM-hallutsinatsioonide uuringud pakuvad välja taksonoomiaid, mis eristavad sisemisi hallutsinatsioone (kus väljund ei ühildu antud sisendiga, näiteks antud dokumendi vale kokkuvõte) ja väliseid hallutsinatsioone (kus mudel lisab usutavaid, kuid toetamata detaile). Edetabelid, nagu näiteks Vectara hallutsinatsioonide edetabel, võrdlevad populaarseid mudeleid standardtestides, et järjestada, millised neist genereerivad tõenäolisemalt vigast sisu.
Uued tuvastusmeetodid lähevad lihtsast õigsuskontrollist kaugemale . Üks tähelepanuväärne uurimissuund kasutab kahtlaste tulemuste märgistamiseks semantilist entroopiat – umbes seda, kui ebakindel mudel on selle osas, mida ta peaks ütlema. Kui mudel näitab mitme võimaliku jätku vahel suurt sisemist lahknevust, võib see suurenenud semantiline entroopia olla hoiatusmärk, et praegune vastus on tõenäoliselt hallutsinatsioon, isegi kui kuldstandardile vastavat võrdlusvastust pole saadaval.
Hallutsinatsioonide vähendamise ja tuvastamise meetodid
Kuna hallutsinatsioonid on sisse ehitatud generatiivsete mudelite tööpõhimõtetesse, pole ühest maagilist lahendust, kuid on tekkinud mitu paljulubavat strateegiat . Üks mõjukas lähenemisviis on otsingu-laiendatud genereerimine (RAG). Selle asemel, et lasta mudelil tugineda ainult sellele, mida see treeningu ajal meelde jättis, pärib RAG-süsteem esmalt välistelt, kureeritud andmeallikatelt – näiteks dokumentatsioonilt, teadmusbaasidelt või indekseeritud veebilehtedelt – ja seejärel palub mudelil genereerida vastuse, mis on otseselt nende hangitud dokumentide põhjal loodud.
RAG annab mudelile sisuliselt midagi konkreetset, millele toetuda . Kui kasutaja esitab küsimuse, hangib süsteem asjakohased lõigud ja mudelil palutakse need kokku võtta või kombineerida, selle asemel et nullist improviseerida. See võib oluliselt vähendada hallutsinatsioone valdkondades, kus on saadaval ajakohane ja usaldusväärne sisu, näiteks tehnilised käsiraamatud, ettevõtte sise-eeskirjad või teaduslikud andmebaasid.
Teine kaitseliin on sisemine verifitseerimine ja isevastavuse kontroll . Selle asemel, et usaldada ühte mudeli läbimist, genereerivad mõned süsteemid mitu vastuste kandidaati ja võrdlevad neid seejärel omavahel. Kui kõik versioonid koonduvad samale väitele, on suurem tõenäosus, et see on stabiilne ja õige; kui need lahknevad, saab süsteem loobuda, küsida selgitust või selgesõnaliselt märkida ebakindlust. Seda isevastavuse kontrolli saab automatiseerida ja see on juba näidanud paljulubavust hallutsinatsioonide vähendamisel arutlusülesannetes.
Teadlased on pakkunud välja ka eksperimentaalsemaid arhitektuure, näiteks meetodeid, mis struktureerivad kasutaja päringu enne vastamist ümber . Üks näide hiljutisest akadeemilisest tööst on Acurai nime all tuntud tehnika, mille eesmärk on ümber sõnastada ülesandeid viisil, mis suunab mudelit kontrollitavate arutlusteede poole. Kuigi sellised lähenemisviisid on alles algusjärgus, viitavad need tulevikule, kus mudel kulutab suurema osa oma arvutuslikust pingutusest küsimuse läbimõtlemise planeerimisele, selle asemel, et otse sujuvasse jutustusse hüpata.
Jälgimise poole pealt pakuvad semantilise entroopia sondid ja nendega seotud tööriistad odavat viisi võimalike hallutsinatsioonide tuvastamiseks . Mõõtes, kui palju mudel vastuse loomisel sisemiselt "iseendaga ei nõustu", saavad need sondid märgistada lõike, mis väärivad inimese ülevaatamist. Oluline on see, et sellised tehnikad ei vaja õigete vastuste märgistatud andmekogumit, mistõttu sobivad need avatud, reaalsete stsenaariumide jaoks.
Inimese järelevalve ja vastutustundliku kasutamise roll
Isegi täiustatud arhitektuuri ja nutika tuvastamise korral jääb inimese järelevalve tehisintellekti hallutsinatsioonide haldamisel keskseks . Kõige töökindlamad rakendused on need, mis käsitlevad tehisintellekti võimsa assistendi või kaaspiloodina, mitte autonoomse otsustajana. Sellistes sektorites nagu tervishoid, pangandus või avalik haldus on parim tava lasta mudelil teavet filtreerida, dokumente mustandeid koostada või pikki materjale kokku võtta, samal ajal kui inimesest ekspert teeb lõpliku läbivaatamise ja kinnitamise.
Nii valdkonna juhid kui ka teadlased rõhutavad, et kasutajad ei tohiks tehisintellekti väljundeid pimesi usaldada, eriti tundlikel teemadel . Suurte mudelite taga olevad ettevõtted on selgesõnaliselt hoiatanud, et nende süsteemid võivad ikkagi hallutsineerida ning et vastuseid tuleks meditsiinilise, juriidilise või finantsnõustamise saamiseks kasutada ettevaatusega. Mõned teenusepakkujad tuginevad eelarvamuste, faktivigade ja potentsiaalselt kahjuliku sisu testimisel inimestest hindajatele, integreerides nende tagasiside koolitusse inimtagasiside abil saadud tugevdusõppe (RLHF) kaudu.
Piirangute läbipaistvus mängib kasutajate usalduse säilitamisel võtmerolli . Kui teenusepakkujad tunnistavad, et nende mudelid võivad toota ebatäpset või väljamõeldud teavet, säilitavad kasutajad suurema tõenäosusega tervisliku skeptitsismi taseme, kontrollivad vastuseid üle ja väldivad kriitiliste otsuste delegeerimist. Seevastu tehisintellekti liialdamine eksimatu või inimlikus mõttes „intelligentse“ olemusena tekitab ebareaalseid ootusi ja muudab hallutsinatsioonid pigem reetmiseks kui tehnilisteks artefaktideks.
Tulevikku vaadates kujundavad regulatsioonid tõenäoliselt seda, kuidas organisatsioonid hallutsinatsioonide riske juhivad . Poliitikakujundajad koostavad juba reegleid, mis nõuavad riskihindamist, inimese kaasamisega protsesse ning mudeli võimekuse ja rikkeviiside selget dokumenteerimist. Paljudes jurisdiktsioonides peavad ettevõtted, kes juurutavad tehisintellekti tööriistu kõrge riskiga valdkondades, tõendama, et neil on olemas piisavad kaitsemeetmed, et hallutsinatsioonid ei mõjutaks otseselt kriitilisi otsuseid.
Lõppkokkuvõttes on kõige usaldusväärsemad need, mis kujundavad töövooge tehisintellekti tugevuste ja nõrkuste ümber . Generatiivsed mudelid on suurepärased mustandite genereerimisel, valikute uurimisel, alternatiivsete fraaside pakkumisel ja mustrite esiletoomisel suurtes tekstimahtudes. Need on palju vähem usaldusväärsed tõe ainsate vahekohtunikena. Kui süsteemid on ehitatud nii, et inimesed säilitavad kontrolli oluliste otsuste ja kontrollimisetappide üle, muutuvad hallutsinatsioonid pigem hallatavaks müraks kui katastroofilisteks ebaõnnestumisteks.
Nende tehnoloogiate arenedes muutub realistlik suhtumine tehisintellekti hallutsinatsioonidesse oluliseks kõigile asjaosalistele – arendajatele, organisatsioonidele, regulaatoritele ja igapäevastele kasutajatele. Generatiivse tehisintellekti targa kasutamise osaks on mõistmine, et ladus vastus ei ole tingimata õige, mudelite kombineerimine väliste teadmusallikatega, hallutsinatsioonide süstemaatiline mõõtmine ja tuvastamine ning inimliku otsustusvõime säilitamine oluliste otsuste keskmes. Selle asemel, et küsida, kas hallutsinatsioonid kaovad täielikult, on kasulikum küsimus, kuidas saaksime luua süsteeme, stiimuleid ja harjumusi, mis muudavad need paratamatud vead nähtavaks, kontrollitud ja palju vähem kahjulikuks.
