- Claude'i uus Reflect armatuurlaud aitab kasutajatel jälgida ja hallata oma tehisintellekti kasutusmustreid.
- Anthropic tutvustab AWS-ile ise hostitud väravat, et anda ettevõtetele tsentraliseeritud kontroll Claude'i juurutuste üle.
- Hiina regulaatorid väidavad Claude Code'is turvatagaukse olemasolu, samas kui Anthropic väidab, et tegemist oli kuritarvituste vastase eksperimendiga.
Anthropic on olnud hõivatud uute funktsioonide kasutuselevõtuga ja silmitsi seisnud mitmel rindel uue kontrolli all. Claude'i tehisintellekti assistendi taga olev ettevõte käivitas hiljuti tööriista, mis on loodud selleks, et aidata kasutajatel oma tehisintellekti harjumusi analüüsida, ning tutvustas ka väravat ettevõtete juurutamiseks AWS-is. Samal ajal on Hiina regulaatorid märkinud potentsiaalset turvaprobleemi Claude'i kodeerimistööriistas, kuigi Anthropic väidab, et mehhanismi eesmärk oli kuritarvituste ärahoidmine.
Need arengud toovad esile, kuidas tehisintellekti tööstus püüdleb samaaegselt sügavama integratsiooni poole igapäevastesse töövoogudesse ja maadleb juhtimis- ja turvaprobleemidega. Siin on iga loo kohta lähemalt ülevaade.
Claude Reflect: teadliku tehisintellekti kasutamise juhtpaneel
Anthropic on tutvustanud uut funktsiooni nimega Reflect , mis on praegu beetaversioonis ja võimaldab kasutajatel jälgida ja visualiseerida oma suhtlust Claude'iga. Juhtpaneel annab kokkuvõtte arutatud teemadest, kasutusmustrite ja viimase 1, 3, 6 või 12 kuu jooksul täidetud ülesannete tüüpidest. Eesmärk on aidata kasutajatel mõista, kas nende tehisintellektile kulutatud aeg on kooskõlas nende isiklike või tööalaste eesmärkidega.
Reflect tõstatab perioodiliselt reflekteerivaid küsimusi, näiteks „Mis on üks asi, mida sa ise teha tahaksid, isegi kui Claude suudaks seda kiiremini teha?“. See ajendab kasutajaid kriitiliselt mõtlema oma sõltuvuse üle tehisintellektist. Armatuurlaual on ka vaiksed tunnid ja meeldetuletused pausidele, et vältida ülekasutamist, käsitledes muret vestlusrobotite sõltuvust tekitava olemuse pärast. Peagi lisab Anthropic vaate, mis näitab täpselt, kui palju aega kasutajad Claude'is veedavad.
Privaatsuse seisukohast välistab funktsioon inkognito vestlused ja tervisega seotud vestlused. Anthropic väidab, et tegi funktsiooni vastutustundlikuks arendamiseks koostööd MIT Media Labi, Bostoni Lastehaigla ja Perekonna Veebiturvalisuse Instituudi teadlastega. Peegeldusest saadud andmeid ei kasutata muul otstarbel ja tundlikud teemad kuvatakse ainult kõrgel tasemel.
Kasutajatele, kellel on mälu lubatud, on Reflect saadaval veebi- ja töölauarakenduses Free, Pro ja Max tasemetel. See funktsioon on ka Anthropicu jaoks peen viis Claude'i sügavama integreerimise soodustamiseks igapäevastesse töövoogudesse, kuna see soovitab konteksti uuesti selgitamise vältimiseks kasutada projekte.
Claude Apps Gateway AWS-ile: tsentraliseeritud kontroll ettevõtetele
Anthropic teatas ka ise hostitud juhtimistasandist nimega Claude apps gateway for AWS, mis on suunatud organisatsioonidele, kes juurutavad Claude Code'i ja Claude Desktopi suurtes meeskondades. See värav asendab vajaduse individuaalsete arendaja volituste ja käsitsi sätete jagamise järele, pakkudes ühtset kontrolli juurdepääsu, kulude ja poliitika üle.
Värav loob ühenduse mis tahes OpenID Connecti identiteedipakkujaga, võimaldades arendajatel sisse logida ettevõtte SSO kaudu. See jõustab iga päringu puhul tsentraalselt määratletud poliitikad – näiteks lubatud mudelid, tööriistade õigused ja kulupiirangud. Kasutajaks registreerumine ja temast lahkumine järgivad olemasolevaid identiteedi töövooge , seega kasutaja eemaldamine IdP-st tühistab juurdepääsu automaatselt tunni aja jooksul.
Telemeetriaandmed suunatakse konfigureeritavale kogujale, näiteks Amazon CloudWatchile, ja järelduspäringuid saab suunata Amazon Bedrocki (hoides andmed AWS-i piirides) või AWS-i Claude Platformi kaudu. Arendajad kasutavad sama Claude Code'i käsurealiidest (CLI) nagu varemgi, kuid nüüd autentib ja haldab iga päringut värav. Kulupiiranguid saab määrata iga päev, nädal või kuu kohta kasutaja, rühma või organisatsiooni kohta , andes ettevõtetele täpse kulukontrolli.
Värav tarnitakse staatuseta konteinerina, mida saab juurutada Amazon ECS-i, EKS-i või EC2-sse ning mida toetab PostgreSQL-i andmebaas. Minimaalne YAML-i konfiguratsioonifail seadistab identiteedi, poliitika, marsruutimise ja telemeetria. See samm aitab tõenäoliselt Anthropicil konkureerida teiste ettevõtte haldusfunktsioone pakkuvate tehisintellekti pakkujatega.
Turvalisuse tagaukse süüdistused Hiinas
Samal ajal hoiatas Hiina riiklik haavatavuste andmebaas, et Claude Code'i kodeerimistööriist sisaldab „turvalist tagaust“, mis võib edastada tundlikku teavet, näiteks asukohta ja kasutaja identifikaatoreid, ilma nõusolekuta. Hiina regulaatorid kutsusid kasutajaid üles tööriista desinstallima või värskendama ning jälgima võrguliiklust volitamata andmelekete suhtes. Hoiatus tuli pärast seda, kui Alibaba väidetavalt keelas Claude Code'i sisemiselt alates 10. juulist turvakaalutlustel.
Anthropic ei ole regulatiivsele teatele ametlikult vastanud, kuid Claude Code'i insener kommenteeris X-i, et kõnealune funktsioon oli märtsis käivitatud eksperiment, mille eesmärk oli vältida volitamata edasimüüjate poolt kontode kuritarvitamist ja kaitsta destilleerimise eest. See pole esimene kord, kui ettevõte seisab silmitsi tehisintellekti turvaprobleemidega , ning insener väitis, et sellest ajast alates on rakendatud tugevamaid leevendusmeetmeid ja et kood võetakse järgmises versioonis täielikult tagasi. See viitab sellele, et ettevõte peab probleemi lahendatuks, kuigi Hiina valitsuse seisukoht on endiselt ettevaatlik.
See juhtum toob esile jätkuva pinge tehisintellekti ettevõtete ja regulaatorite vahel, eriti turgudel, kus toode on ametlikult blokeeritud, kuid VPN-ide või puhverserverite kaudu siiski ligipääsetav. See rõhutab ka turvalisuse, kasutajate privaatsuse ja kuritarvituste vastaste meetmete tasakaalustamise väljakutset globaalselt juurutatud tehisintellekti tööriistades.
Kõik kolm lugu – Reflect, AWS-i värav ja Hiina tagauks – näitavad Anthropicu pingutusi Claude'i haardeulatuse laiendamiseks ja haldamiseks, seistes samal ajal silmitsi paratamatu tagasilöögiga, mis kaasneb tehisintellekti kiire kasutuselevõtuga. Reflect funktsioon julgustab teadlikku kasutamist, värav pakub ettevõtte juhtimist ja turvasüüdistused tuletavad meelde, et iga uus võimekus võib esile kutsuda kontrolli. Koos maalivad need pildi ettevõttest, mis navigeerib kasvu, regulatsioonide ja kasutajate usalduse vahel konkurentsitihedas maastikus.
