Drugo

AI se zdaj grozljivo približuje podatkom iz Star Trek: TNG, ko ve, ali mu lahko zaupate ali ne

2024

Morda ni tako samozavesten kot podatki iz Zvezdne steze: TNG (še), še posebej, ker bi lahko ta droid bolje skrbel za mačko kot nekateri ljudje, vendar je AI zdaj dosegel točko, ko se zaveda, ko ni vreden zaupanja.

moja stran gora pregledov

Kaj se zdaj imenuje globoka dokazna regresija je izenačil samozavedanje AI. Na podlagi ocene zanesljivosti podatkov, ki jih išče, bo vedel, kdaj ima večjo možnost napake pri napovedovanju. Prihodnje napovedi se bodo bolj uresničile, če nanje vplivajo bolj temeljiti in natančni podatki. Nasprotno pomeni, da bodo stvari verjetno šle narobe - in AI to lahko zazna. Ko oceni svojo gotovost glede nečesa, se bo ta gotovost dvignila in znižala, odvisno od podatkov, ki jih vnese. AI lahko nato z 99% natančnostjo določi tveganje ali negotovost.

Zdi se, da bi bil celo Picard navdušen - počakajte. Samozavedni roboti imajo samo eno pomanjkljivost in to je, da 99% ni popolna gotovost, ne glede na to, kako blizu je. Odsotnost le za 1% lahko pomeni katastrofo v potencialno smrtno nevarnih scenarijih, od vožnje avtonomnega avtomobila do operacije. Strašno.

Medtem ko [globoka evidenčna regresija] prinaša več prednosti pred obstoječimi pristopi, so njene primarne omejitve pri uravnavanju koeficienta regularizacije in pri učinkovitem odpravljanju nezavajajočih dokazov pri umerjanju negotovosti, je dejal MIT Ph.D. študent Alexander Amini , ki je vodil študijo, ki jo bo predstavil na konferenci NeurIPS prihodnjega meseca.

Kar je uspelo Aminiju in njegovi ekipi, je še vedno izjemno. Pred tem uporaba AI za oceno negotovosti ni bila le draga, ampak tudi prepočasna za odločitve, ki jih je treba sprejeti v delčkih sekunde. Nevronska omrežja so lahko tako velika, da lahko izračunajo odgovor večno, čakanje, da se naučijo ravni zaupanja, pa bi bilo predolgo, da bi se sploh trudili. Neumno bi bilo uporabiti kaj takega v sebi -vozniški avto, ki mora vedeti, na kateri zavoj naj se takoj obrne. Postopek se je hitro pospešil z globoko dokazno regresijo. To nevronsko omrežje je treba zagnati le enkrat, da ugotovi stopnjo negotovosti.

Z ugibanjem o negotovosti v modelu, ki se ga je AI že naučil, nam lahko približno pove, kako široka je možnost napake. AI za dokazovanje svoje ocene uporablja dokaze. Ti dokazi vključujejo vsako negotovost, ki se skriva v podatkih, ki jih je pravkar analiziralo nevronsko omrežje, ali njeno samozavedanje, kako prepričana je v svojo odločitev. Amini in njegova ekipa sta preizkusili metodo globoke dokazne regresije z usposabljanjem AI za oceno globine vsakega piksla na sliki. Dojemanje globine bi lahko pomenilo življenje ali smrt pri operaciji, pri kateri je treba odstraniti tumor, ki se lahko nahaja globoko v telesu in ga drugače težko vidimo.

pirati s Karibov 5 pregledov

AI je bil večinoma natančen, pa se je zmešalo nekoč so ga hranili s slikami, ki so si jih težje zapomnili. Vsaj ena stvar, o kateri je bilo dosledno: ob soočanju s podobami, ki so ji povzročale težave, bi ekipo nemudoma obvestila o svoji negotovosti. Njegova določena meja napak lahko raziskovalce vsaj nauči, kako izboljšati ta model. Njegova sposobnost prepoznavanja slik, ki so bile fotošopirane, odpira tudi možnost prepoznavanja globokih ponaredkov. Ljudje se moramo samo zavedati, da so ti robotski možgani še vedno zmotni in da jim ne moremo zaupati več, kot lahko zaupajo sami sebi.