بلیک لمواین، گوگل و جستجوی روح در الگوریتم


این علم نبود که مهندس گوگل، بلیک لموئین را متقاعد کرد که یکی از هوش مصنوعی های این شرکت حساس است. Lemoine، که همچنین یک کشیش عارف مسیحی است، می‌گوید این نظرات هوش مصنوعی در مورد مذهب و همچنین “باورهای شخصی و معنوی” او بود که به او کمک کرد. متقاعد کردن او فناوری افکار، احساسات و روح داشت.

“من یک کشیش هستم. زمانی که LaMDA ادعا کرد که روح دارد و سپس توانست به شیوای معنای آن را توضیح دهد، من تمایل داشتم که از شک و تردید به آن بهره ببرم. یک توییت اخیر. “من کی هستم که به خدا بگویم که او می تواند و نمی تواند روح را در کجا قرار دهد؟”

Lemoine احتمالاً اشتباه می کند – حداقل از دیدگاه علمی. محققان برجسته هوش مصنوعی و همچنین گوگل می‌گویند که LaMDA، مدل زبان محاوره‌ای که Lemoine در این شرکت مطالعه می‌کرد، بسیار قدرتمند است و به اندازه‌ای پیشرفته است که می‌تواند پاسخ‌های بسیار قانع‌کننده‌ای به سؤالات کاوشگر ارائه دهد بدون اینکه واقعاً بفهمد چه می‌گوید. گوگل Lemoine را پس از آن که مهندس، از جمله موارد دیگر، وکیلی برای LaMDA استخدام کرد، تعلیق کرد و شروع به صحبت با کمیته قضایی مجلس در مورد اقدامات این شرکت کرد. Lemoine ادعا می کند که گوگل به دلیل مذهبش علیه او تبعیض قائل می شود.

با این حال، عقاید لمواین بحث‌های قابل‌توجهی را برانگیخته است، و یادآور این نکته است که با پیشرفته‌تر شدن هوش مصنوعی، مردم با انواع ایده‌های دور از ذهن در مورد اینکه این فناوری چه می‌کند و چه چیزی برایشان معنا دارد، به ذهنشان خطور می‌کند.

اسکات میدسون، استاد هنرهای لیبرال دانشگاه منچستر که الهیات و پساانسان گرایی را مطالعه می کند، به Recode گفت: «از آنجایی که این یک ماشین است، ما تمایلی نداریم که بگوییم، طبیعی است که این اتفاق بیفتد. ما تقریباً می گذریم و به سمت امور ماوراء طبیعی، جادویی و مذهبی می رویم.»

شایان ذکر است که Lemoine به سختی اولین شخصیت دره سیلیکون است که ادعاهایی در مورد هوش مصنوعی دارد که حداقل در ظاهر مذهبی به نظر می رسد. Ray Kurzweil، دانشمند کامپیوتر و آینده پژوه برجسته، مدتهاست که “تکینگی” را ترویج کرده است، که این تصور است که هوش مصنوعی در نهایت بر بشریت پیشی خواهد گرفت و انسان ها در نهایت می توانند با این فناوری ادغام شوند. آنتونی لواندوفسکی، که یکی از بنیانگذاران استارت آپ ماشین های خودران گوگل، Waymo بود، راه آینده را راه اندازی کرد، کلیسایی که به طور کامل به هوش مصنوعی در سال ۲۰۱۵ اختصاص داشت (کلیسا در سال ۲۰۲۰ منحل شد). حتی برخی از تمرین‌کنندگان ادیان سنتی‌تر شروع به استفاده از هوش مصنوعی کرده‌اند، از جمله روبات‌هایی که موهبت و نصیحت می‌کنند.

به طور خوش بینانه، این امکان وجود دارد که برخی از افراد بتوانند در پاسخ های ارائه شده توسط هوش مصنوعی به راحتی و خرد واقعی بیابند. ایده‌های مذهبی همچنین می‌توانند توسعه هوش مصنوعی را هدایت کنند و شاید این فناوری را اخلاقی کنند. اما در عین حال، نگرانی‌های واقعی با اندیشیدن به هوش مصنوعی به عنوان چیزی فراتر از فناوری ایجاد شده توسط انسان وجود دارد.

من اخیراً در مورد این نگرانی ها با Midson صحبت کردم. او به من گفت که ما نه تنها در معرض خطر زرق و برق‌آمیز کردن هوش مصنوعی و از دست دادن نقص‌های واقعی آن هستیم، بلکه همچنین می‌توانیم تلاش سیلیکون ولی را برای تبلیغ فناوری‌ای که هنوز بسیار پیچیده‌تر از آنچه به نظر می‌رسد، فعال کنیم. این مصاحبه برای وضوح و طولانی بودن ویرایش شده است.

ربکا هایلویل

بیایید با داستان بزرگی که چند هفته پیش از گوگل بیرون آمد شروع کنیم. چقدر متداول است که فردی با دیدگاه های مذهبی معتقد است که هوش مصنوعی یا فناوری روح دارد یا چیزی فراتر از فناوری است؟

اسکات میدسون

در حالی که این داستان واقعاً شگفت‌انگیز به نظر می‌رسد – ایده دین و فناوری در کنار هم – تاریخ اولیه این ماشین‌ها و مذهب در واقع این ایده از انگیزه‌های مذهبی در رایانه‌ها و ماشین‌ها را بسیار رایج‌تر می‌کند.

اگر به قرون وسطی یعنی دوره قرون وسطی برگردیم، اتومات ها وجود داشتند که اساساً وسایل خود حرکتی بودند. یک اتوماتای ​​خاص وجود دارد، یک راهب مکانیکی، که به ویژه برای تشویق مردم به تفکر در مورد پیچیدگی های خلقت خدا طراحی شده است. جنبش آن برای فراخوانی آن احترام مذهبی طراحی شده بود. در آن زمان، جهان به عنوان یک مکانیسم پیچیده و خدا به عنوان طراح بزرگ ساعت دیده می شد.

پرش از راهب مکانیکی به نوع دیگری از راهب مکانیکی: اخیراً، یک کلیسای آلمانی در هسن و ناسائو BlessU-2 را برای بزرگداشت ۵۰۰ سالگرد اصلاحات ساخته است. BlessU-2 اساساً یک ماشین پول نقد با جلال بود که برکت می داد و بازوهای خود را حرکت می داد و این نوع چیزهای بزرگ، مذهبی و تشریفاتی را داشت. واکنش های متفاوت زیادی نسبت به آن وجود داشت. به ویژه یکی از آنها پیرزنی بود که می گفت در واقع نعمتی که از این ربات به دست آورده واقعاً معنادار است. این یک مورد خاص بود که برای او اهمیت داشت، و او می گفت: “خب، در واقع، اینجا چیزی در حال رخ دادن است، چیزی که من نمی توانم توضیح دهم.”

ربکا هایلویل

در دنیای سیلیکون ولی و فضاهای فناوری، چه نوع ادعاهای مشابه دیگری مطرح شده است؟

اسکات میدسون

برای برخی از مردم، به ویژه در سیلیکون ولی، تبلیغات و پول زیادی وجود دارد که می تواند به ادعاهای بزرگی مانند “هوش مصنوعی من آگاه است.” توجه زیادی را به خود جلب می کند. این تخیل بسیاری از مردم را فعال می کند دقیقاً به این دلیل که مذهب تمایل دارد فراتر از آنچه ما می توانیم توضیح دهیم. این همان وابستگی فراطبیعی است.

افراد زیادی وجود دارند که با کمال میل آتش این مکالمات را شعله ور می کنند تا تبلیغات تبلیغاتی را حفظ کنند. من فکر می‌کنم یکی از چیزهایی که می‌تواند کاملاً خطرناک باشد، این است که این هیاهو کنترل نشود.

ربکا هایلویل

هر چند وقت یک‌بار با الکسا یا سیری صحبت می‌کنم و سؤالات مهم زندگی می‌پرسم. به عنوان مثال، اگر از سیری بپرسید که آیا خدا واقعی است، ربات پاسخ خواهد داد: “همه اینها برای من یک راز است.” این نمونه اخیر یک روزنامه نگار نیز وجود داشت درخواست GPT-3، مدل زبان ایجاد شده توسط آزمایشگاه تحقیقاتی هوش مصنوعی OpenAI، در مورد یهودیت و دیدن اینکه چقدر پاسخ های آن می تواند خوب باشد. گاهی اوقات پاسخ های این ماشین ها واقعا احمقانه به نظر می رسند، اما گاهی اوقات واقعاً عاقلانه به نظر می رسند. چرا اینطور است؟

اسکات میدسون

جوزف وایزنبام Eliza، اولین چت ربات جهان را طراحی کرد. Weizenbaum آزمایش هایی را با Eliza انجام داد، که فقط یک ربات چت ابتدایی، یک نرم افزار پردازش زبان بود. الیزا برای تقلید از یک روان درمانگر راجریان طراحی شده است، بنابراین مشاور معمولی شما، اساساً. وایزنبام به شرکت کنندگان نگفت که قرار است با یک دستگاه صحبت کنند، اما به آنها گفته شد، شما از طریق یک کامپیوتر با یک درمانگر تعامل خواهید داشت. مردم می‌گفتند: «من برای خانواده‌ام خیلی ناراحتم» و سپس الیزا کلمه «خانواده» را برمی‌گزید. قسمت‌های خاصی از جمله را برمی‌گزید، و تقریباً آن را به عنوان سؤال برمی‌گرداند. زیرا این همان چیزی است که ما از یک درمانگر انتظار داریم. هیچ معنایی که ما از آنها انتظار داریم وجود ندارد. این صفحه بازتابنده است، جایی که یک کامپیوتر نیازی به درک آنچه می گوید ندارد تا ما را متقاعد کند که کار خود را به عنوان یک درمانگر انجام می دهد.

این خبرنگار Recode یک گپ کوتاه با ایجاد مجدد چت ربات Eliza که در وب در دسترس است داشت.
اسکرین شات

ما نرم افزار هوش مصنوعی بسیار پیچیده تری داریم، نرم افزاری که می تواند کلمات را در جملات متنی کند. فناوری LaMDA گوگل از پیچیدگی های زیادی برخوردار است. این فقط به دنبال یک کلمه ساده در جمله نیست. می تواند کلمات را در انواع ساختارها و تنظیمات به صورت متنی قرار دهد. بنابراین این تصور را به شما می دهد که می داند در مورد چه چیزی صحبت می کند. یکی از نکات مهم در مورد مکالمات پیرامون چت بات ها این است که طرف مقابل – دستگاهی که ما با آن صحبت می کنیم – واقعاً چه چیزی گفته می شود را درک می کند؟

ربکا هایلویل

آیا نمونه‌هایی از ربات‌ها وجود دارد که پاسخ‌های خوبی ارائه نمی‌دهند؟

اسکات میدسون

احتیاط زیادی در مورد کارهایی که این ماشین ها انجام می دهند و نمی کنند وجود دارد. همه چیز در مورد این است که چگونه آنها شما را متقاعد می کنند که آنها را می فهمند و چیزهایی از این دست. نوئل شارکی از نظریه پردازان برجسته در این زمینه است. او واقعاً از این روبات‌هایی که شما را متقاعد می‌کنند که می‌توانند بیشتر از آنچه واقعاً می‌توانند انجام دهند، دوست ندارد. او آنها را “ربات های نمایش” می نامد. یکی از نمونه‌های اصلی که او از ربات‌های نمایشی استفاده می‌کند، سوفیا است، رباتی که در عربستان به شهروندی افتخاری اعطا شده است. این بیشتر از یک چت بات اولیه است زیرا در بدنه ربات قرار دارد. به وضوح می توان گفت که سوفیا یک ربات است، بدون هیچ دلیل دیگری جز این که پشت سرش یک پوشش شفاف است و می توانید تمام سیم ها و چیزها را ببینید.

برای شارکی، همه اینها فقط یک توهم است. این فقط دود و آینه است. سوفیا در واقع وضعیت شخصیتی را با هیچ قدرت تخیلی تضمین نمی کند. نمیفهمه چی میگه امیدها، رویاها، احساسات، یا هیچ چیز دیگری که آن را آنقدر که ممکن است به نظر می رسد انسانی کند، ندارد. واقعیت این است که فریب دادن مردم مشکل ساز است. عبارات swing-and-miss زیادی دارد. گاهی اوقات عملکرد نادرست دارد، یا چیزهای مشکوکی می گوید که باعث افزایش ابروها می شود. اما حتی در جایی که شفاف‌ترین حالت آن است، ما همچنان با سطحی از توهم همراه هستیم.

خیلی وقت‌ها پیش می‌آید که روبات‌ها این جمله را دارند که «این یک عروسک خیمه شب بازی روی یک ریسمان است». آنقدر که ما فکر می کنیم کارهای مستقل انجام نمی دهد. ما همچنین روبات هایی داشته ایم که به گواهینامه می روند. ربات Pepper به یک گواهی دولتی در مورد هوش مصنوعی رفت. این جلسه جلسه استماع شواهد مجلس اعیان بود، و به نظر می رسید که پپر از طرف خودش صحبت می کند و همه چیز را می گوید. همه از قبل برنامه ریزی شده بود، و این برای همه کاملاً شفاف نبود. و دوباره، این همان سوءتفاهم است. این مدیریت تبلیغات است که به نظر من نگرانی بزرگی است.

ربکا هایلویل

من را به یاد آن صحنه می اندازد جادوگر شهر از جایی که جادوگر واقعی سرانجام آشکار می شود. گفتگو در مورد اینکه آیا هوش مصنوعی حساس است یا نه، چگونه با سایر بحث های مهمی که در حال حاضر در مورد هوش مصنوعی اتفاق می افتد، ارتباط دارد؟

اسکات میدسون

Microsoft Tay یکی دیگر از ربات های چت بود که به توییتر فرستاده شد و یک الگوریتم ماشینی داشت که از تعامل خود با افراد در حوزه توییتر یاد می گرفت. مشکل اینجاست که تی ترول شده بود و در عرض ۱۶ ساعت باید از توییتر خارج می شد زیرا زن ستیز، همجنس گرا و نژادپرستانه بود.

نحوه ساخت این ربات‌ها – چه باهوش یا نه – در تصویر ما، مجموعه عظیم دیگری از مسائل اخلاقی است. الگوریتم های زیادی بر روی مجموعه داده هایی که کاملاً انسانی هستند آموزش داده می شود. آنها از تاریخ ما صحبت می کنند، از تعاملات ما، و ذاتاً مغرضانه هستند. نمونه هایی از الگوریتم هایی وجود دارد که بر اساس نژاد تعصب دارند.

سوال احساس؟ من می‌توانم آن را به‌عنوان یک شاه‌ماهی قرمز ببینم، اما در واقع، به نحوه ساخت ماشین‌ها در تصویر و کارهایی که با آن تصویر انجام می‌دهیم نیز مرتبط است.

ربکا هایلویل

تیمنیت گبرو و مارگارت میچل، دو محقق برجسته اخلاق هوش مصنوعی، قبل از اخراج هر دو توسط گوگل این نگرانی را مطرح کردند: با اندیشیدن به بحث احساسات و هوش مصنوعی به عنوان یک چیز مستقل، ممکن است این واقعیت را فراموش کنیم که هوش مصنوعی توسط انسان ها ساخته شده است.

اسکات میدسون

ما تقریباً ماشین را به روشی خاص، جدا شده یا حتی به نوعی خداگونه می بینیم. برگردیم به آن جعبه سیاه: این چیزی است که ما نمی‌فهمیم، به نوعی مذهبی است، شگفت‌انگیز است، پتانسیل فوق‌العاده‌ای دارد. اگر همه این تبلیغات درباره این فناوری ها را تماشا کنیم، ما را نجات خواهد داد. اما اگر آن را به گونه ای جدا از هم ببینیم، اگر آن را به نوعی خداگونه ببینیم، چه چیزی برای ما تشویق می کند؟

این داستان اولین بار در خبرنامه Recode منتشر شد. اینجا ثبت نام کنید تا بعدی را از دست ندهید!



دیدگاهتان را بنویسید