{"id":750811,"date":"2023-10-17T07:15:09","date_gmt":"2023-10-17T13:15:09","guid":{"rendered":"https:\/\/blogging-techies.com\/sw\/apples-neural-engine-och-det-generativa-ai-spelet\/"},"modified":"2023-10-17T07:15:09","modified_gmt":"2023-10-17T13:15:09","slug":"apples-neural-engine-och-det-generativa-ai-spelet","status":"publish","type":"post","link":"https:\/\/blogging-techies.com\/sw\/apples-neural-engine-och-det-generativa-ai-spelet\/","title":{"rendered":"Apples Neural Engine och det generativa AI-spelet"},"content":{"rendered":"<p>Medan Apples tillk\u00e4nnagivanden om hj\u00e4lpmedel den h\u00e4r veckan \u00e4r viktiga, \u00e4r fr\u00e5gan som l\u00e4mnas obesvarad hur mycket de f\u00f6rlitar sig p\u00e5 f\u00f6retagets kraftfulla Neural Engine.<\/p>\n<p>Neural Engine best\u00e5r av en samling specialiserade datork\u00e4rnor som finns i Apple Silicon-chips.  De \u00e4r designade f\u00f6r att utf\u00f6ra maskin\/AI-funktioner snabbt och med stor effektivitet eftersom handlingen sker p\u00e5 chippet.  <\/p>\n<p>F\u00f6retaget har <a href=\"https:\/\/www.applemust.com\/apple-is-putting-machine-learning-into-everything-it-does\/\" rel=\"noopener nofollow\" target=\"_blank\">stora resurser avsatts<\/a> till f\u00f6rb\u00e4ttringar av Neural Engine sedan den f\u00f6rst d\u00f6k upp 2017. Apple Wiki noterar att A16-chippet inuti iPhone 14 levererar 17 biljoner operationer per sekund, upp fr\u00e5n 600 miljarder\/s i 2017 \u00e5rs A11-processor.<\/p>\n<p>S\u00e5 hur anv\u00e4nder Apple Neural Engine?<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Hur_Apple_anvander_Neural_Engine\"><\/span><strong>Hur Apple anv\u00e4nder Neural Engine<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<ul>\n<li>T\u00e4nk p\u00e5 FaceID, animerade Memojis eller s\u00f6kning p\u00e5 enheten efter saker som hundbilder i Foton.  Utvecklare anv\u00e4nder Neural Engine n\u00e4r de skapar applikationer som st\u00f6der <a href=\"https:\/\/developer.apple.com\/machine-learning\/\" rel=\"noopener nofollow\" target=\"_blank\">CoreML<\/a>, som Becasso eller Style Art. Men Neural Engine kan mer.  och det \u00e4r vad <a href=\"https:\/\/www.macworld.com\/article\/670839\/jonny-evans-apple-changing-the-world-one-accessible-product-at-a-time.html\" rel=\"noopener nofollow\" target=\"_blank\">Apple Accessibility Improvements Show<\/a>.<\/li>\n<li>T\u00e4nk p\u00e5 detektionsl\u00e4get i f\u00f6rstoringsglaset.  I det l\u00e4get kommer din iPhone att k\u00e4nna igen knappar p\u00e5 f\u00f6rem\u00e5l i ditt hem, ber\u00e4tta vad knappens funktion \u00e4r och hj\u00e4lpa dig att styra din hand.  Det \u00e4r en kraftfull teknik som f\u00f6rlitar sig p\u00e5 kameran, LiDAR-skannern, maskininl\u00e4rning och Neural Engine i processorn.<\/li>\n<li>T\u00e4nk p\u00e5 den nya personliga r\u00f6stfunktionen som l\u00e5ter anv\u00e4ndare skapa en r\u00f6st som l\u00e5ter som deras egen, som deras enhet sedan kan anv\u00e4nda f\u00f6r att s\u00e4ga orden de skriver.  Detta \u00e4r <a href=\"https:\/\/www.apple.com\/newsroom\/2023\/05\/assistiveware-ushers-in-next-generation-of-aac-technology\/\" rel=\"noopener nofollow\" target=\"_blank\">anv\u00e4ndbart f\u00f6r m\u00e4nniskor som h\u00e5ller p\u00e5 att tappa r\u00f6sten<\/a>men \u00e5terigen f\u00f6rlitar den sig p\u00e5 talanalys p\u00e5 enheten och intelligenta f\u00f6rm\u00e5gor begravda i Neural Engine.<\/li>\n<\/ul>\n<p>Dessa \u00e4r alla ber\u00e4kningsintensiva uppgifter, b\u00e5da f\u00f6rlitar sig p\u00e5 enhetsintelligens snarare \u00e4n molnet, och \u00e4r designade f\u00f6r att uppr\u00e4tth\u00e5lla integritet och anv\u00e4nda dedikerade AI-loopar inom varje Apple-enhet.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Neuralmotorn_kan_mycket_mer\"><\/span><strong>Neuralmotorn kan mycket mer<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Jag tror inte att dessa uppgifter verkligen p\u00e5verkar allt som Neural Engine kan g\u00f6ra.  F\u00f6r trots l\u00f6ftet om den h\u00e4r typen av AI, har spelet att f\u00e5 det att k\u00f6ras inbyggt p\u00e5 edge-enheter redan b\u00f6rjat, och Apple har arbetat s\u00e5 h\u00e5rt med att bygga sin Neural Engine att det skulle verka konstigt om det inte hade n\u00e5gra kort.  spela.<\/p>\n<p>Oavsett vilket kommer och b\u00f6r den ultimata ambitionen vara att leverera dessa teknologier utanf\u00f6r datacentret.  En av m\u00e5nga mindre delade sanningar runt omkring <a href=\"https:\/\/www.infoworld.com\/article\/3689973\/what-is-generative-ai-the-evolution-of-artificial-intelligence.html\" rel=\"nofollow noopener\" target=\"_blank\">Generativ AI<\/a> \u00e4r <a href=\"https:\/\/www.businessinsider.com\/how-much-chatgpt-costs-openai-to-run-estimate-report-2023-4?r=US&amp;IR=T#:~:text=ChatGPT%20could%20cost%20OpenAI%20up,expensive%20servers%20to%20answer%20queries.\" rel=\"noopener nofollow\" target=\"_blank\">hur mycket energi som beh\u00f6vs f\u00f6r att fungera<\/a>.  Alla f\u00f6retag som vill begr\u00e4nsa sina koldioxidutsl\u00e4pp och uppfylla klimatm\u00e5len kommer att vilja k\u00f6ra dessa uppgifter p\u00e5 enheten, snarare \u00e4n p\u00e5 en serverfarm.  Och Apple har \u00e5tagit sig att uppfylla sin <a href=\"https:\/\/www.applemust.com\/at-apple-design-has-become-an-operational-challenge\/\" rel=\"noopener nofollow\" target=\"_blank\">klimatm\u00e5l<\/a>.  Det b\u00e4sta s\u00e4ttet att uppn\u00e5 dessa med liknande teknik \u00e4r att utveckla AI p\u00e5 enheten, som har ett hem i Neural Engine.<\/p>\n<p>Ja Detta <a href=\"https:\/\/www.ft.com\/content\/6579591d-4469-4b28-81a2-64d1196b44ab\" rel=\"noopener nofollow\" target=\"_blank\">S\u00e5 h\u00e4r ser Apple p\u00e5 det<\/a>du \u00e4r inte ensam. <a href=\"https:\/\/www.infoworld.com\/article\/3696349\/google-unveils-palm-2-ai-language-model.html\" rel=\"noopener nofollow\" target=\"_blank\">Google Palm 2<\/a> visar f\u00f6retagets intresse.  Chiptillverkare som Qualcomm se <a href=\"https:\/\/www.qualcomm.com\/news\/onq\/2023\/05\/how-on-device-ai-is-enabling-generative-ai-to-scale\" rel=\"nofollow noopener\" target=\"_blank\">kantbearbetning av s\u00e5dana uppgifter<\/a> som ett viktigt s\u00e4tt att minska kostnader eller teknik.  Det finns f\u00f6r n\u00e4rvarande m\u00e5nga spr\u00e5kmodeller med \u00f6ppen k\u00e4llkod som kan leverera generativa AI-funktioner;  Stanford University har redan kunnat g\u00f6ra en <a href=\"https:\/\/gizmodo.com\/stanford-ai-alpaca-llama-facebook-taken-down-chatgpt-1850247570\" rel=\"noopener nofollow\" target=\"_blank\">k\u00f6rs p\u00e5 en Google Pixel-telefon<\/a> (om \u00e4n med ytterligare hallucinationer), s\u00e5 att k\u00f6ra dem p\u00e5 iPhone borde vara enkelt.<\/p>\n<p>Irt borde vara \u00e4nnu enklare p\u00e5 ett M2-chip, som de som redan anv\u00e4nds i Mac, iPad och (snart) Reality Pro.<\/p>\n<p>Ett s\u00e4tt att minska kostnaderna f\u00f6r denna typ av AI, samtidigt som man minskar storleken p\u00e5 spr\u00e5kmodellen och \u00f6kar noggrannheten genom att skydda mot &#8220;alternativa fakta&#8221; som skapas av AI, \u00e4r att begr\u00e4nsa tekniken till utvalda dom\u00e4ner.  Dessa kan vara inom nyckelapplikationer f\u00f6r kontorsproduktivitet, men ocks\u00e5 f\u00f6r tillg\u00e4nglighetssyften, f\u00f6rb\u00e4ttrade anv\u00e4ndargr\u00e4nssnittskomponenter eller f\u00f6rb\u00e4ttrade s\u00f6kupplevelser.<\/p>\n<p>Det h\u00e4r verkar vara det tillv\u00e4gag\u00e5ngss\u00e4tt som vi ser i branschen, eftersom utvecklare som Zoom hittar s\u00e4tt att integrera AI i befintliga produkter p\u00e5 v\u00e4rdefulla s\u00e4tt, snarare \u00e4n att anv\u00e4nda en scatter-gun-strategi.  Apples tillv\u00e4gag\u00e5ngss\u00e4tt visar ocks\u00e5 fokus p\u00e5 viktiga vertikaler.<\/p>\n<p>N\u00e4r det g\u00e4ller hur Apple har f\u00f6r avsikt att utveckla sin egen AI-teknik verkar det fruktansv\u00e4rt h\u00e4nsynsl\u00f6st att ignorera data som det kan ha samlat in genom sitt s\u00f6karbete under det senaste decenniet.  Har <a href=\"https:\/\/www.applemust.com\/what-is-applebot-and-what-does-it-do\/\" rel=\"noopener nofollow\" target=\"_blank\">\u00e4pple robot<\/a> Har det verkligen bara handlat om att g\u00f6ra aff\u00e4rer med Google?  Kan den informationen bidra till utvecklingen av Apples egen LLM-modell?<\/p>\n<p>P\u00e5 WWDC kan det vara intressant att se om ett av s\u00e4tten man t\u00e4nker anv\u00e4nda AI kan vara att driva bildgenereringsmodellerna f\u00f6r sina AR-enheter.  \u00c4r den formen av no-code\/low-code AI-driven upplevelse en del av den superenkla utvecklingsmilj\u00f6n som vi tidigare har h\u00f6rt om Apples planer?<\/p>\n<p>I en idealisk v\u00e4rld skulle anv\u00e4ndare kunna utnyttja kraften i dessa nya AI-modeller privat, p\u00e5 sin enhet och med minimal kraft.  Och eftersom det \u00e4r just detta som Apple byggde den neurala motorn f\u00f6r, var kanske dumma Siri just den <a href=\"https:\/\/www.applemust.com\/morgan-stanley-on-how-apples-siri-could-use-llm-effectively\/\" rel=\"noopener nofollow\" target=\"_blank\">inf\u00f6r en st\u00f6rre helhet<\/a> \u2014 en f\u00f6rf\u00f6ljande h\u00e4st med ett pokeransikte.  Vi vet inte n\u00e5got av dessa svar \u00e4n, men det kan vara n\u00e5got som alla vet n\u00e4r solen g\u00e5r ner i Kalifornien. <a href=\"https:\/\/9to5mac.com\/2023\/05\/16\/wwdc-2023-schedule-special-event\/\" rel=\"noopener nofollow\" target=\"_blank\">speciellt Apple-utvecklarevenemang p\u00e5 Apple Park den 5 juni<\/a>.<\/p>\n  <div id=\"ez-toc-container\" class=\"ez-toc-v2_0_88 ez-toc-wrap-center counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Table of Contents<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Toggle Table of Content\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 eztoc-toggle-hide-by-default' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/blogging-techies.com\/sw\/apples-neural-engine-och-det-generativa-ai-spelet\/#Hur_Apple_anvander_Neural_Engine\" >Hur Apple anv\u00e4nder Neural Engine<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/blogging-techies.com\/sw\/apples-neural-engine-och-det-generativa-ai-spelet\/#Neuralmotorn_kan_mycket_mer\" >Neuralmotorn kan mycket mer<\/a><\/li><\/ul><\/nav><\/div>\n ","protected":false},"excerpt":{"rendered":"<p>Medan Apples tillk\u00e4nnagivanden om hj\u00e4lpmedel den h\u00e4r veckan \u00e4r viktiga, \u00e4r fr\u00e5gan som l\u00e4mnas obesvarad hur mycket de f\u00f6rlitar sig p\u00e5 f\u00f6retagets kraftfulla Neural Engine. Neural Engine best\u00e5r av en samling specialiserade datork\u00e4rnor som finns i Apple Silicon-chips. De \u00e4r designade f\u00f6r att utf\u00f6ra maskin\/AI-funktioner snabbt och med stor effektivitet eftersom handlingen sker p\u00e5 chippet. [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":750812,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/blogging-techies.com\/wp-content\/uploads\/2023\/06\/9.jpg","fifu_image_alt":"","footnotes":""},"categories":[5],"tags":[],"class_list":["post-750811","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-bloggar"],"_links":{"self":[{"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/posts\/750811","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/comments?post=750811"}],"version-history":[{"count":0,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/posts\/750811\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/media\/750812"}],"wp:attachment":[{"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/media?parent=750811"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/categories?post=750811"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogging-techies.com\/sw\/wp-json\/wp\/v2\/tags?post=750811"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}