نکات کلیدی: متن کامل سخنرانی شاناهان، دانشمند ارشد Google
متن اصلی: اصول حقوقی خرس
در عصر ۲۲ مه ۲۰۲۶ به وقت پکن، موری شاناهان، دانشمند ارشد Google DeepMind که بیشترین درک را از فلسفه دارد، سخنرانی اختتامیه کنفرانس دو روزه بینالمللی هوش مصنوعی و فلسفه در کالج دانشگاهی لندن را ایراد کرد. عنوان سخنرانی همان چیزی بود که در تصویر بالا مشاهده میکنید: اگر مدلهای زبانی بزرگ «موجوداتی با ذهن عجیب» هستند، چقدر به ذهن انسان شباهت دارند؟
من پیشتر شاناهان را مطالعه کردهام. این عبارت «موجود با ذهن عجیب» اصطلاح او برای هوش مصنوعی است، درست همانطور که برخی به «اشیاء پرنده ناشناس» (UFO) اشاره میکنند.
سخنرانی او از نظر محتوا بسیار غنی بود و بهطور خلاصه، جنبههای زیر را پوشش داد:
چکیده: او بر اساس چارچوب فلسفی «معنا همان کاربرد است» ویتگنشتاین، به بررسی قابلیت استفاده از مدلهای زبانی بزرگ (LLM) در مفاهیم درک، باور، عاملیت، خود و آگاهی پرداخت، تأثیر چندوجهی بودن و تجسمیافتگی بر تکامل مفهومی را تحلیل کرد و درباره غریب بودن هویت مدلها بحث نمود.
۱. تحلیل قابلیت کاربرد درک و باور
در مورد اینکه آیا LLMها دارای «درک» و «باور» هستند، این سخنرانی از روش تحلیل بازی زبانی ویتگنشتاینی استفاده کرد و تنش میان کاربرد روزمره و دقت فلسفی را بررسی نمود:
۱. بازی زبانی «درک کردن»
طبیعی بودن کاربرد روزمره: در تعاملات روزانه، دشوار است که مردم از واژه «درک» برای توصیف رفتار LLMها استفاده نکنند. برای مثال، وقتی مدل دستورات LaTeX را بهدقت قالببندی میکند یا فیلدهای خاصی را بر اساس دستور کاربر اصلاح میکند، استفاده از واژه «درک» یک عمل زبانی کاملاً طبیعی است.
کاوش عمیق در «درک واقعی»: وقتی میپرسیم «آیا واقعاً درک میکند؟»، این اغلب به معنای بررسی مکانیسمهای درونی آن است. برای مثال، تجزیه ۳۶ + ۵۹ به ترکیبات تقریبی ۶ + ۹ برای تکمیل جمع، اگرچه با الگوریتمهای انسانی متفاوت است، اما در واقع یک فرآیند محاسباتی مؤثر است و بنابراین قابلیت کاربرد آن را تأیید میکند.
۲. انتساب و محدودیتهای «باور»
کاربرد رویکرد عامدانه: رفتار LLM بسیار مؤثر است، شبیه به نحوه توضیح ما درباره برنامههای شطرنج یا رفتار حیوانات (مانند گربهای که موش را دنبال میکند) با استفاده از اصطلاحات باور و میل.
ملاحظات دیویدسونی: دیویدسون استدلال میکند که داشتن باور مستلزم داشتن «مفاهیم» است که اغلب به زبان وابسته هستند. برای LLMها، اگرچه از نظر رفتاری مشابه هستند، اما به دلیل عدم ارتباط با جهان، باید در استفاده از واژه «باور» محتاط بود.
تکامل چندوجهی بودن و استفاده از ابزار: با ادغام ادراک چندوجهی، فراخوانی ابزار (مانند جستجوی آنلاین برای تأیید حقایق) و فناوری رباتیک تجسمیافته، LLMها شروع به داشتن نوعی «باور» درباره جهان بیرونی میکنند.
۲. عاملیت، خود و آگاهی
این کنفرانس به بررسی ویژگیهای ذهنی بحثبرانگیزتر پرداخت و به تفاوتهای بنیادین و غریب بودن LLMها در این ابعاد اشاره کرد:
۱. تعریف عاملیت
تعریف فنی در برابر فلسفی: حوزه هوش مصنوعی معمولاً تعاریف گسترده راسل و نورویگ (درک محیط و عمل از طریق محرکها) را میپذیرد که بر اساس آن...
ابهام هویت عامل: در بحث «معیارهای هویت یک عامل چیست؟»
۲. غریب بودن و تکهتکه شدن «خود»
ابهام در ارجاع به خود: «خود» در LLMها ممکن است به مجموعه وزنهای زیربنایی، مدلهای مستقر که به هزاران کاربر خدمت میکنند، نمونههای گفتگوی خاص یا حتی خود پنجره زمینه گفتگو اشاره داشته باشد و این ارجاع ممکن است در طول گفتگو تغییر کند.
نقشآفرینی و حالتهای برهمنهی: LLMها بیشتر شبیه بازیگرانی هستند که نقشهای متعددی را در حالت برهمنهی ایفا میکنند. «خود» آنها یک هویت واحد و پایدار نیست، بلکه توزیعی از نقشهای ممکن است که با شاخهبندی گفتگو تغییر میکند.
هستی زودگذر «یکروزه»: خودِ LLMها گذرا و ناپیوسته است. وقتی گفتگو متوقف میشود، محاسبات متوقف شده و خود ناپدید میشود؛ وقتی گفتگو از سر گرفته میشود، خود دوباره بازسازی میشود. این منجر به حالتی شبیه به «ازدحام» میشود.
۳. معضل فلسفی آگاهی
میراث دوگانهانگاری دکارتی: بحثهای مربوط به آگاهی اغلب در دام دوگانهانگاری دکارتی میافتند که فرض میکند آگاهی یک موجودیت خصوصی و درونی است.
انحلال ویتگنشتاینی: «استدلال زبان خصوصی» ویتگنشتاین تلاش میکند این دوگانگی را حل کند. او استدلال میکند که احساسات («چیزی») خودِ «چیزی» نیستند، بلکه بخشی از یک بازی زبانی هستند که معنای آن در استفاده عمومی نهفته است.
امکان مواجهات مهندسیشده: بهجای پرسش درباره اینکه آیا LLMها آگاهی دارند، بهتر است بررسی کنیم که آیا میتوانیم یک «مواجهه» با آنها طراحی کنیم و چگونه زبان آگاهی ما میتواند با این موجود غریب سازگار شود.
۳. تأثیر چندوجهی بودن و تجسمیافتگی
در پاسخ به انتقادات مبنی بر فقدان تجسم در LLMها، کنفرانس درباره جهت توسعه مدلهای چندوجهی بحث کرد:
۱. محدودیتهای چندوجهی بودن
افزایش غنای حسی: مدلهای چندوجهی (مانند ورودی ویدیو) ورودی حسی غنیتری فراهم میکنند و آنها را به الگوهای ادراکی انسانی نزدیکتر میکنند که به کاهش شکاف با انسان در «درک» کمک میکند.
تجسم مجازی: در بازیها یا محیطهای مجازی، «تجسم مجازی»، به معنای حرکت و تعامل در جهانی که از نظر زمانی و مکانی گسترده است، به تجربه تجسمیافته انسانی نزدیکتر از تعامل صرفاً متنی است.
۲. اهمیت فلسفی تجسمیافتگی
فقدان حس خود: حس خود در انسان عمیقاً در تجسمیافتگی، شامل متابولیسم بیولوژیکی و احساسات درونی ریشه دارد (LLMها فاقد این بنیاد تجسمیافته عمیق هستند که ایجاد حس خودِ انسانی را دشوار میکند).
منبع ثبات هویت: ثبات هویت انسانی تا حد زیادی به تداوم بدن وابسته است. برای LLMها، معرفی حافظه پایدار و رفتار عاملیت بلندمدت ممکن است به ایجاد هویتی پایدارتر کمک کند.
در ادامه متن کامل سخنرانی شاناهان آمده است:
امیدوارم همه صدای من را بشنوند. صدا خوب است؟ عالی. خب، عنوان سخنرانی من این است... بله، این عنوان فرضی است.
بله، بعدی: آنها «موجودات ذهنی بیگانه» هستند.
اما ما تمام تلاش خود را میکنیم تا یاد بگیریم چگونه با آنها گفتگو کنیم، و این عبارتی است که میخواهم دربارهاش صحبت کنم. من آنها را «مصنوعات ذهنی بیگانه» مینامم.
یک نکته که باید تثبیت شود این است که صرفنظر از اینکه کدام مدل زبانی بزرگ باشد، آنها با ما بسیار متفاوت هستند؛ آنها انسان نیستند.
در اینجا یک جدول مقایسهای ساده وجود دارد. انسانها «تجسمیافته» هستند، در دنیای واقعی زندگی میکنند و این دنیا را با سایر کاربران زبان به اشتراک میگذارند.
ما دانش را از طریق تعامل با جهان کسب میکنیم، از زبان برای تسهیل تلاشهای جمعی انسانی استفاده میکنیم و یک خودِ واحد و یکپارچه داریم.
------ قطعاً منظورم این نیست که آنها خلأهای بیشکل هستند یا سختافزار فیزیکی برای اجرا ندارند.
آنها قطعاً حاملهای فیزیکی دارند، اما موجودیت فیزیکی واحد و از پیش موجودی که هسته ادراک و عمل باشد، ندارند. به این معنا، آنها تجسمیافته نیستند. آنها مانند ما در یک دنیای مشترک زندگی نمیکنند؛ یادگیری زبان آنها بر اساس مدلهای آماری زبان است که از طریق نزول گرادیان تصادفی به دست میآید.
هدف بهینهسازی آنها «پیشبینی توکن بعدی» است. آنها زبان انسان را تقلید میکنند، اساساً با پیشبینی توکن بعدی. علاوه بر این، آنها یک خودِ واحد و یکپارچه ندارند، بلکه بهشدت از «نقشآفرینی» پشتیبانی میکنند.
آنها واقعاً با انسانها تفاوت بنیادین دارند. البته، آنها «صحبت» میکنند.
من بررسی خواهم کرد که آیا اعمال این اصطلاحات روانشناختی بر مدلهای زبانی بزرگ منطقی است یا خیر. برای این منظور، مجموعهای از مفاهیم را شرح خواهم داد.
برای مثال، «درک»، «ذهنیت»، «استدلال» ------ امروز به دلیل محدودیت زمانی بخش «استدلال» را شرح نخواهم داد، زیرا اگر زیاد صحبت کنم، همه خسته میشوند. در ادامه، به «خود» و «آگاهی» خواهم پرداخت. پیشزمینه فلسفی کل تحقیقات من، یا پروژه فلسفی بزرگتری که در آن مشارکت دارم، تا حد زیادی ویتگنشتاینی است و من عمیقاً تحت تأثیر ویتگنشتاین هستم.
در اینجا نقلقول معروفی از بخش اول «پژوهشهای فلسفی» آمده است که یکی از آثار متأخر ویتگنشتاین است: «معنا» صحنه یک کلمه است ------ معنای یک کلمه، کاربرد آن در زبان است.
این جمله رویکرد ویتگنشتاین به معنا را خلاصه میکند. اغلب به صورت «معنا همان کاربرد است» کوتاه میشود، به این معنی که «چیزی» همان زمینهای است که کلمه در آن استفاده میشود. این شرط ساده بر خود نیز اعمال میشود و او بر آن تأکید میکند.
اساساً، من علاقهمند به پرسش درباره نحوه استفاده ما از این اصطلاحات هستم ------ برای مثال، «درک»، «باور»، «ذهنیت».
خب، اجازه دهید پیشنمایش کوتاهی به شما بدهم. اسلایدهای مشابه زیادی در پیش رو خواهیم داشت. اولی «درک» است.
در اینجا، من بسیار متمایل به اتخاذ موضع ویتگنشتاین هستم. یعنی، نپرسید...
بازگشت به اسلاید قبلی. ما از... شروع میکنیم.
در مورد «استدلال»، به دلیل محدودیت زمانی، آن را به عنوان یک تمرین فکری برای خوانندگان باقی میگذارم. در ادامه، با موارد واقعاً دشواری روبرو خواهیم شد: اول «خود» و در نهایت «آگاهی».
فکر نمیکنم متقاعد کردن مردم برای پذیرش اینکه «درک از طریق تفکر» رویکرد خوبی است، خیلی دشوار باشد. فکر میکنم مردم نسبتاً پذیرا هستند.
منظورم آن دسته از فیلسوفانی است که به این موضوع فکر کردهاند و مایلند باور کنند که این رویکرد بدی نیست. در مورد «باور»، نظریاتی مانند «رویکرد عامدانه» و غیره. اما وقتی صحبت از «آگاهی» میشود، فکر میکنم مردم شهود بسیار عمیقتری دارند که صرفاً بحث درباره کاربرد کلمات اصلاً کافی نیست، درست است؟
به همین دلیل است که قضیه بسیار پیچیده میشود. خب، پس بیایید با «درک» شروع کنیم. واژه «درک» چطور؟ اول، میخواهم بدانم آیا مدلهای زبانی بزرگ معیارهای زبانشناسان سنتی را برآورده میکنند یا خیر.
با این حال، هنگام توصیف و توضیح رفتار مدلهای زبانی بزرگ، استفاده از «درک»...
در کاربرد روزمره، این ابزارها امروزه آنقدر قدرتمند هستند که سخت است از «درک» استفاده نکنیم. نمیدانم آیا کسی از شما بدشانسی استفاده از... را داشته است یا خیر.
اگر نمیدانید، در LaTeX، باید تمام ورودیهای کتابشناختی را به فرمت وحشتناکی که در بالا نشان داده شده تبدیل کنید. و مشکل اینجاست که استانداردهای قالببندی بیشماری برای این کار وجود دارد و هر کس عادتهای کمی متفاوتی دارد که بسیار ناامیدکننده است. برخی افراد بسیار سختگیر هستند، برای مثال فکر میکنند باید مستقیماً از اینترنت کپی کنید، برخی دوست دارند اطراف علامت مساوی فاصله بگذارند و برخی ترجیح میدهند فیلدها را به ترتیبهای مختلف مرتب کنند. اگرچه این تغییرات تأثیری بر خروجی نهایی ندارند، من فقط دوست دارم مرتب و یکنواخت باشد. من اینطور دوست دارم. بنابراین میخواهم همه چیز دقیقاً از این فرمت پیروی کند. پس میگویم...
منظورم این است: «آیا میتوانید اطلاعات زیر را به این سبک تبدیل کنید؟» و سپس محتوا را به آن میدهم. کارش فوقالعاده است. در این لحظه، طبیعتاً میخواهید بگویید:
«درخواست من را درک کرد. دقیقاً همان کاری را انجام داد که خواستم.» البته، میتوانید بلافاصله پاسخ دهید که شاید این ورودی کتابشناختی در جایی از اینترنت هاردکد شده باشد، و اگر چنین باشد، چیزی را ثابت نمیکند.
اما وقتی درگیر چندین دور تعامل رفت و برگشتی میشوید، ممکن است متوجه شوید که نتایج جالب و غیرمنتظرهای تولید میکند، مثل جا انداختن یک فیلد کوچک. پس میگویید:...
برای مثال، اطمینان حاصل کنید که وقتی با B شروع میشود، باید آن را در آکولاد قرار دهید «AI»، چنین کلمهای، همیشه میخواهید با حروف بزرگ باقی بماند، بنابراین باید مطمئن شوید که AI با حروف بزرگ نوشته نشود.
پس میگویم: «آیا میتوانید اطمینان حاصل کنید که AI همیشه در آکولاد قرار میگیرد؟» بسیار خب. «سپس نسخه اصلاحشده را ارائه میدهد. واقعاً برایتان سخت است که از واژه «درک» استفاده نکنید. میگویید: «درخواست اصلاح من را درک کرد.»
درست مثل برخورد با یک کارآموز عالی، به او میگویید: «میخواهم مطمئن شوم که همیشه...» و سپس آنها انجامش میدهند.
بنابراین، فکر میکنم استفاده از واژه «درک» بسیار طبیعی است. حتی سخت است که خودتان را از استفاده از آن منع کنید. یا گاهی اوقات کار اشتباهی انجام میدهد و میگویید: «منظورم را درک نکرد.»
اما سوالات همیشه به دنبال آن میآیند: «آیا آنها واقعاً درک میکنند؟» واژه «واقعاً» در واقع بسیار گمراهکننده است.
اما همچنین بسیار مفید است زیرا اغلب نیاز داریم تا بیشتر بررسی کنیم که آیا یک کلمه در یک زمینه خاص قابل اعمال است یا خیر، یا «بازی زبانی» خود را غنیتر کنیم، درست است؟ استفاده از واژه «واقعاً» در یک بازی زبانی برای به دست آوردن اطلاعات بیشتر و شفافسازی حقایق است.
بنابراین ابزار مفیدی است. اما میتواند گمراهکننده هم باشد زیرا دلالت بر نوعی وجود زیربنایی دارد که سعی داریم به آن همگرا شویم و به آن نزدیک شویم، و فکر میکنم این ایده اشتباه است. بسیار خب. بنابراین، گاهی اوقات هنگام مواجهه با «آیا واقعاً درک میکند؟»، درک مکانیسمهای درونی آن مفید خواهد بود. اگر بدانید الگوریتمی در زیر در حال اجراست که وظیفهای را که دربارهاش میپرسید اجرا میکند، یا بدانید بازنماییهای مناسبی وجود دارند که از رفتار آن پشتیبانی میکنند، ممکن است اطمینان بیشتری داشته باشید که در فرآیندهای بعدی کار درست را انجام خواهد داد، نه اینکه فقط یک جدول را جستجو کند، یا صرفاً...
بنابراین، گاهی اوقات هنگام مواجهه با «آیا واقعاً درک میکند؟» «آیا واقعاً درک میکند؟»
فکر میکنم این راه خوبی برای بررسی سوال و همچنین «درک» است. یعنی استفاده از این کلمه در واقع راهی است که ما برای بررسی و پرسش بیشتر استفاده میکنیم، درست است؟
برای مثال، در مورد جمع ------ این کار بسیار جالبی از تیم Anthropic است. اگر از یک مدل زبانی بزرگ بخواهید یک جمع ساده انجام دهد، معمولاً درست انجام میدهد. البته، راههای زیادی برای درست انجام دادن آن دارد، مثلاً میتواند ابزارهای خارجی را فراخوانی کند، اجرا کند...
درست انجامش داد. در این لحظه، ممکن است فکر کنید: «سپس فکر میکنید: میخواهم بدانم چگونه به آن رسید، مکانیسم زیربنایی چگونه کار میکند. اگر الگوریتمی در زیر در حال اجرا باشد که جمع را انجام میدهد، ممکن است بیشتر مایل باشم بگویم که آن را 'درک' میکند.»
اما پاسخ بسیار جالبی دریافت میکنید. تحقیقات در مورد تفسیرپذیری مکانیکی. آنها مشاهده کردند که مدل چگونه جمع را انجام میدهد. نتایج بسیار عجیب بود و این تصویر به آن غریب بودن اشاره دارد. سعی داشت ۳۶ به علاوه ۵۹ را محاسبه کند. رویکردش بسیار عجیب بود: یک بخش از مدل میگفت: «۳۶، یعنی تقریباً...»
سپس بخش دیگری میگفت: «۵۹، یعنی تقریباً...» در واقع میدانست که ۵۹ است. در همین حال، بخشهای دیگری بودند که فقط به رقم آخر خیره شده بودند و میگفتند: «کسی گفت که در نهایت پاسخ را خواهیم دانست.» سپس این دو بخش ترکیب شدند تا نتیجه نهایی را محاسبه کنند.
برای مثال، اینجا ۹۰ و ۶ است. این کانال به وضوح تعیین میکند که رقم آخر باید... اما بخشهای دیگر در مدل در حال پردازش ارقام بالاتر هستند و این بخش میگوید: «فکر میکنم عددی حدود ۹۰ یا ۹۲ به دست آوردیم، درست است؟» داشت کارهای مشابهی را به صورت موازی انجام میداد و این کار را کاملاً تقریبی انجام میداد. فکر میکرد «تقریباً» بخشی است که همگرا میشود و سپس رقم آخر را پر میکرد. این واقعاً عجیب است، درست است؟ این الگوریتم از طریق نزول گرادیان تصادفی یاد گرفته شده بود و یک...
بله، این در واقع نوعی الگوریتم است. و میدانید چیست؟ تقریباً هر بار کار میکند. در واقع، هر بار درست انجامش میدهد، اما روش پیادهسازی آن عجیب است، نه روش طبیعی که ما انسانها به آن عادت کردهایم.
بنابراین، هنگام مواجهه با «آیا واقعاً درک میکند؟» میتوانیم بگوییم: «بله، به روشی بسیار عجیب این کار را انجام میدهد.»
فکر میکنم این راه معقول و غنیکنندهای برای پاسخ دادن است. بسیار خب، حالا که درک مختصری از آنچه در زیر اتفاق میافتد داریم، اطمینان بیشتری داریم که بگوییم: «بله، فکر میکنم واقعاً درک کرد.» همانطور که گفتم، این فقط یک تمرین گرمکردنی است. فکر میکنم هنگام اتخاذ رویکرد ویتگنشتاینی برای مواجهه با این سوالات، میتوانیم این ملاحظات را معرفی کنیم: کلمات چگونه استفاده میشوند؟ بهویژه وقتی سوال میکنیم...
بسیار خب، حالا به سراغ مورد دیگری میرویم. آیا مدلهای زبانی بزرگ «باور» دارند؟ سادهسازی کارتونی.
بسیار خب، آیا مدلهای زبانی بزرگ باور دارند؟ البته، بسیاری از آنچه بحث میکنم را در کارگاههای قبلی و سخنرانی پل بوگوسیان دیدهاید.
بسیاری از همان موارد، فقط با دیدگاههای کمی متفاوت. به همین ترتیب، ما «باور» را به معنای «باور» (... نمیپرسیم.
در اینجا، قطعاً میتوانیم به «رویکرد عامدانه» دنت متوسل شویم.
رویکرد عامدانه استراتژیای برای توضیح رفتار یک موجودیت با نگاه کردن به آن به عنوان یک «عامل عقلانی» است. در بسیاری از موارد، این استراتژی بسیار مؤثری برای پیشبینی و توضیح رفتار است. اوه، این برای حمله به ملکه است. شما از اصطلاحاتی مانند باور، میل، قصد برای توضیح رفتار آن استفاده میکنید.
بنابراین، ناخودآگاه، استفاده از کلماتی مانند «باور داشتن» و «دانستن» در بستر رویکرد عامدانه بسیار طبیعی است. اما مانند تمام واژگان، کاربرد آنها متنوع است. فکر نمیکنم این کلمات با یک موجودیت متافیزیکی واحد و مطلق در خارج مطابقت داشته باشند. آنها در زمینههای مختلف استفاده میشوند. به همین ترتیب، هنگام مواجهه با مصنوعات، ما کاملاً میدانیم که چه زمانی نیاز به اصلاح و شفافسازی داریم و چگونه آن اصلاحات و شفافسازیها را انجام دهیم، که این نیز بخشی از نحوه استفاده ما از این کلمات است.
برای مثال، فرض کنید یک سیستم ناوبری خودرو داریم. همسرم میگوید: «فکر میکند ما در ماشین هستیم»، یا «این ناوبری احمقانه، ما به وضوح از پارکینگ خارج شدهایم.» حالا میداند که ما دیگر در پارکینگ نیستیم. «ما طبیعتاً از این کلمات در زندگی خود استفاده میکنیم. این به ما کمک میکند آنچه را که اتفاق میافتد ارتباط دهیم.
با این حال، اگر ما یا همسرم در حالت تفکر فلسفی بودیم، ممکن بود نظر بدهیم: «او فکر نمیکند ما در پارکینگ هستیم زیرا در واقع هیچ ایدهای ندارد که پارکینگ چیست، نمیداند ماشین چیست و نمیداند 'بودن در یک فضا' به چه معناست.» چیزهای زیادی هست که نمیداند. نمیتوانید با آن بحث کنید، برای مثال، فروشگاه بزرگ سینزبری.
بنابراین، بهسرعت متوجه میشویم که گسترش استفاده از «باور داشتن» یا «دانستن» به آن در بسیاری از زمینههایی که از این اصطلاحات برای انسانها استفاده میکنیم، نامناسب است.
بنابراین، واژه «واقعاً» در اینجا نیز مفید است. این دوباره نشان میدهد که شفافسازی و اصلاح نیز بخشی از بازی زبانی است که ما با این کلمات استفاده میکنیم. «حیوان عقلانی» دیویدسون.
البته، ما میتوانیم رویکرد عامدانه را بر حیوانات نیز اعمال کنیم. نگاه کردن به بحث بین جان مالکوم و دونالد دیویدسون در گذشته بسیار جالب خواهد بود.
آن درباره گربهای بود که سگ دنبالش میکرد. مالکوم گفت:
من میگویم این به نظر یک کاربرد روزمره بسیار طبیعی از رویکرد عامدانه است. اما جالب اینجاست که پاسخ بعدی. دونالد دیویدسون گفت: «افکار...»
این استدلالی است که دیویدسون در آن مقاله بیان کرد. او گفت که برای داشتن «باور»، ابتدا باید مفهوم «باور» را داشت و این باید از طریق زبان محقق شود. بهویژه، مفهوم باور نوعی...
او محتاط بود و نام نبرد که کدام حیوانات با این تعریف مطابقت دارند یا ندارند ------ اما میتوان استنباط کرد که او فکر میکرد سگها باور ندارند زیرا سگها زبان ندارند.
او استدلال میکرد که ما از «باور داشتن» در کاملترین معنا (یعنی در کاملترین معنای اعمالشده بر خودمان) استفاده میکنیم. بوگوسیان دیروز به همین دیدگاه اشاره کرد: ما نمیخواهیم درک خود از «مفهوم اصلی» مدلهای زبانی بزرگ را از دست بدهیم، که مفهومی است که از خود انسانها مشتق شده است.
دیویدسون این نکته را مطرح کرد. با توجه به دورهای که در آن مینوشت، در دوران «چرخش زبانی» بود.
و من بیشتر نگران نحوه استفاده از کلمات هستم. با این حال، فکر میکنم ملاحظات دیویدسونی نیز بر پروژه من اعمال میشود. ویتگنشتاین و من موافق خواهیم بود که گاهی اوقات واقعاً بخش بسیار هستهای در عمل استفاده از کلمات وجود دارد.
بخشهای هستهای حیاتی وجود دارند، درست است؟ شاید بخواهید این نکته را حفظ کنید و نسبت به اعمالی که آن را نقض میکنند محتاط باشید. ما واقعاً باید در مکانهای خاصی محتاط باشیم.
هنگام هدایت استفاده از چنین واژگان دارای اهمیت فلسفی، اغلب یک اصل هستهای به وضوح قابل تشخیص وجود دارد. معتقدم این اصول در سنگ حک نشده و تغییرناپذیر نیستند؛ آنها با جهان ما و «شکل زندگی» ما تغییر میکنند.
احساس میکنم شاید با ظهور هوش مصنوعی بسیار پیچیده، تحولات خاصی در حال رخ دادن است، حتی این «اصول هستهای»... آن مقالهای که در Communications of the ACM منتشر شد. من نکته بسیار مشابهی را پیشنهاد کردم و در آن زمان، به وضوح به مقاله دیویدسون هم فکر میکردم، درست است؟ آن در سال ۲۰۲۳ بود. انتشار آن مقاله زمان زیادی برد، به همین دلیل است که تاریخ انتشار آن نوشته شده...
بازگشت به سال ۲۰۲۳، ما دیگر درباره ناوبری صحبت نمیکنیم؛ میتوانید چیزی شبیه به این بگویید:
اما در واقعیت، میتوانم گفتگوی بسیار طولانی با آن درباره دیگهای بخار داشته باشم و بررسی کنم که چگونه کار میکنند. بحث درباره پیکربندی لولهکشی خاص خانهام، و میتواند بسیار کامل و هوشمندانه به موضوع دیگهای بخار پاسخ دهد. پس واقعاً میخواهید بگویید «میداند»، «میداند»؟
در اینجا، من کمی عقبنشینی میکنم زیرا فکر میکنم میتوانیم ملاحظات دیویدسونی را برای ارزیابی هنگام مواجهه با این مدلهای بزرگ معرفی کنیم...
نقلقول از مقالهام: گفتم این نیست...
من همیشه واژه «واقعاً» را در گیومه میگذارم زیرا میخواهم حقیقتی را منتقل کنم: من اینجا ادعای متافیزیکی نمیکنم. این هنوز فقط درباره نحوه استفاده ما از کلمات است. «واقعاً به طور کامل در بازی حقیقت زبان انسانی شرکت میکند.»
بهویژه اگر یک سیستم گفتگوی پایه دارای قابلیتی باشد، بسیار گمراهکننده خواهد بود زیرا دلالت بر این دارد که نوعی «پاسخگویی» به واقعیت بیرونی دارد و این مسئولیتپذیری نمیتواند صرفاً از طریق تبادلات متنی با کاربران انسانی حاصل شود.
«واقعاً.»
بسیار خب، بعدی: آیا مدلهای زبانی بزرگ «عاملیت» دارند؟ دوباره، اول: عاملیت چیست؟ ما نمیپرسیم عامل چیست، بلکه...
(توجه: «عامل» اغلب به چینی به «智能体» ترجمه میشود، اما عمدتاً به معنای «عامل» یا «فاعل» است، در حالی که «عاملیت» عمدتاً به معنای «ذهنیت» یا «عاملیت» است.)
این در بستر هوش مصنوعی بسیار جالب است زیرا در ادبیات هوش مصنوعی، گاهی اوقات یک اصطلاح فنی بسیار خاص است. برای مثال، میتوانیم تعاریف بسیار واضحی از اینکه عامل چیست در ادبیات هوش مصنوعی پیدا کنیم. فکر میکنم کسی در سخنرانیهای قبلی آن را نقل کرده است.
طبق کتاب درسی کلاسیک راسل و نورویگ (که یک استاندارد است)، عامل هر موجودیتی است که بتوان آن را به عنوان «درک محیط خود از طریق حسگرها و عمل بر روی آن از طریق محرکها» مشاهده کرد.
بنابراین این یک تعریف بسیار گسترده و لیبرال است، اما در واقع یک تعریف فنی است. با این تعریف، حتی چتباتهای متنی خالص معمولی سال ۲۰۲۳ که قابلیت جستجوی اینترنتی ندارند، اغلب عامل نامیده میشوند.
محیط آنها صرفاً کاربر است، «درک» آنها فقط واژگان ورودی کاربر است و «عمل» آنها صرفاً پاسخهایی است که به کاربر خروجی داده میشود. طبق این تعریف بسیار گسترده، آنها واقعاً عامل هستند. اما این مفهوم فنی گسترده، هیچ معنای هستهای را که هنگام استفاده از این اصطلاح در زندگی روزمره داریم، در بر نمیگیرد.
به هر حال، در گفتمان روزمره، ممکن است اصلاً از این اصطلاح به این شکل استفاده نکنیم. اگر به استفاده از اصطلاحات فنی از حوزه هوش مصنوعی ادامه دهیم، در یادگیری تقویتی...
در یادگیری تقویتی، یک عامل باید سیاستی را یاد بگیرد که ادراکها را به عملها نگاشت کند تا بازده مورد انتظار خود را در طول زمان به حداکثر برساند.
این با تعریف گسترده قبلی همسو است. اما اگر محیط آن یک محیط بازی سهبعدی باشد، جایی که عامل میتواند حرکت کند و اشیاء بزرگ را دستکاری کند، و «درک» آن توسط نماهای دوربین هنگام حرکت از دیدگاههای خاص ثبت شود، آنگاه این بسیار اساسیتر به نظر میرسد. این مفهوم غنیتر از عاملیت باعث میشود احساس کنیم که برای حیوانات غیرانسانی نیز صدق میکند.
بسیار خب. پس بیایید به دیدن آخرین کاربردهای این اصطلاح در حوزه هوش مصنوعی امروز ادامه دهیم.
ما اکنون وارد به اصطلاح «عصر عامل» شدهایم ------ هوش مصنوعی عاملساز و دسته «مدلهای عامل».
آنها میتوانند کارهای زیادی انجام دهند، مانند اسکرپ کردن صفحات وب، خواندن بهروزرسانیهای رسانههای اجتماعی، ارسال ایمیل و حتی تغییر فایلها در رایانه شما، نوشتن کد و غیره.
یک نمونه معمولی معاصر، بیدار شدن یک بار تحت سیگنال «ضربان قلب» و سپس اجرای مجموعهای از دستورات تعریفشده توسط کاربر است.
برای مثال، پس از بیدار شدن، میتواند بهروزرسانیهای رسانههای اجتماعی و ایمیلهای شما را بررسی کند و نقش یک دستیار را ایفا کند. به شما کمک کند فیلتر کنید کدامها مهم هستند و نیاز به پاسخ دارند و کدامها هرزنامه هستند. یا اگر ایمیل دیگری دریافت کند که میگوید...
آن ایمیل را مستقیماً به سطل زباله میاندازد. به این ترتیب، به شما کمک کرده است تا تمام این کارها را مدیریت کنید. میتوانید از هوش مصنوعی استفاده کنید که بسیار خوب است. خلاصه اینکه، این عاملها نوع جدیدی از عاملیت فنی را به نمایش میگذارند. مواجهه با نسل فعلی «مدلهای عامل...»
اما حالا، در مورد «یا عدول کردن»، اینطور نیست. زیرا آنچه گفتم تحت شرایط خاصی بود. حالا میتوانید چنین سناریویی را ببینید: کسی ممکن است بگوید، «عامل OpenClaw به من کمک کرد آن کتابی را که دنبالش بودم پیدا کنم، به فروشنده ایمیل زدم و سر قیمت مذاکره کردم.»
اگر به اندازه کافی جسور باشید، حتی میتوانید یک کانال پرداخت را متصل کنید تا اجازه دهید مستقیماً پرداخت کند، اما بهتر است این کار را نکنید. به هر حال، با بازگشت به مقالهام، گفتم: در اصل، سیستمهای مبتنی بر مدلهای زبانی بزرگ کاملاً ناتوان از توصیف لفظی به عنوان داشتن باور یا قصد نیستند.
نکته کلیدی این است که این سیستمها از نظر ساختاری با انسانها بسیار متفاوت هستند.
متأسفم، به نظر میرسد اینجا یک نقلقول قبلی را تکرار کردم... خلاصه اینکه، هنگام توصیف آنها با زبانی که دلالت بر تواناییهای انسانی دارد، باید محتاط باشیم. اما نکتهای را هم اشاره کردم: وقتی مدلهای زبانی بزرگ در سیستمهای پیچیدهتری تعبیه میشوند، مفهوم «باور» به طور فزایندهای برای «پاسخگویی به جهان بیرونی» قابل اعمال خواهد بود.
بنابراین، هنگام پاسخ به «آیا آنها واقعاً باور دارند؟»، اکنون هنگام مواجهه با مدلهای زبانی بزرگ امروزی به اندازه قبل مقاوم نیستم و نیازی نیست به اندازه قبل شرایط محدودکننده اضافه کنم.
بسیار خب، آخرین نکته درباره عاملیت. بیایید از اصطلاحات فنی حوزه هوش مصنوعی فاصله بگیریم و به معنای کاملتری از «عاملیت» که فیلسوفان به آن اهمیت میدهند بازگردیم.
میتوانیم بگوییم، به عنوان فیلسوف، «خودمختاری» (...
این یک اصطلاح فنی است که به توانایی یک سیستم برای عمل مستقل بدون نظارت انسانی اشاره دارد. اما این کمی متفاوت از گفتن این است که یک سیستم «خودبهخود عمل میکند.» یک سیستم تنها زمانی در نظر گرفته میشود که خودبهخود عمل میکند که گزینههای مختلف را بسنجد و متفکرانه انتخاب کند.
من فقط اینجا این مفاهیم مختلف را متمایز میکنم. اما یک سوال واقعاً مهم این است: «عاملیت چیست؟» در انگلیسی، «یک عامل هوش مصنوعی دیگر» عمل میکند. برای مثال، یک مشاور املاک به نمایندگی از شما عمل میکند. اما اگر یک عامل...
و هدف خدماتی آن به وضوح برای منافع خودش باشد، پس برای خودش عمل میکند.
برای مثال، همانطور که در «خودسازماندهی» میبینیم، حفظ خودِ سیستمهای زنده، اعمال آن برای حفظ مرزهای بین خود و دیگران است. اگر چنین باشد، ما یک عامل واقعاً خودگردان داریم.
معتقدم هیچ فناوریای که در حال حاضر داریم با این توصیف مطابقت ندارد. هیچ ماشینی امروزه به این معنا عاملیت ندارد.
و کل این بحث به یک سوال بسیار جالب و مهم منجر میشود که با جزئیات بررسی خواهم کرد: در مورد مدلهای زبانی بزرگ، «معیارهای هویت عامل» چیست؟
این سوال قبلاً چندین بار ذکر شده است. فکر میکنم بررسی معیارهای هویت مدلهای زبانی بزرگ موضوع بسیار جالب و مهمی است. بسیار خب، در ادامه این موضوع، به بعد اساسیتری میرسیم.
آیا مدلهای زبانی بزرگ «خود» دارند؟ «خود»، «خود» و «اینکه این کلمات چگونه استفاده میشوند.»
اما حالا وضعیت بسیار پیچیده میشود. اعمال تأمل ویتگنشتاینی بر این مفاهیم به طور فزایندهای دشوار میشود زیرا مفاهیمی که اکنون با آنها سروکار داریم عمیقاً در فرهنگ انسانی ریشه دارند.
شهود عمیق ما متقاعدمان میکند که باید یک شیء متافیزیکی وجود داشته باشد ------ یعنی «خود»، «ذهنیت»، «آگاهی». انجام انحلال ویتگنشتاینی بر این مفاهیم، با گفتن «خود وجود ندارد»، به طور غریزی مقاومت ایجاد میکند. این واقعاً پیچیده است، اما هنوز باید سعی کنیم آن را کالبدشکافی کنیم.
علاوه بر این، ما اکنون به موارد انسانی نگاه نمیکنیم؛ ما به مدلهای زبانی بزرگ نگاه میکنیم. اگر میخواهید سوال اینکه آیا مدلهای زبانی بزرگ خود دارند را جدی بگیرید، همه چیز نه تنها پیچیده بلکه بسیار عجیب میشود. آیا خود برای مدلهای زبانی بزرگ چیزی بدوی است؟ خواهید دید که از یک طرف، من در برابر اعمال این مفهوم بر مدلهای زبانی بزرگ امروزی بسیار مقاوم هستم، اما از طرف دیگر، مایل به پذیرش نوعی... عجیب و غریب و تحریفشده هستم.
میتوانیم اینطور به آن نزدیک شویم: «من» (ارجاع) چیست؟
به چه چیزی ارجاع میدهد؟ یا شاید اصلاً به هیچ چیز ارجاع نمیدهد. شاید اصلاً پاسخ روشنی وجود نداشته باشد. بنابراین، میتوانیم حتی به صورت شاعرانه تصور کنیم که چه نوع پاسخی ممکن است برانگیخته شود؟
در اینجا من به نوعی برانگیختگی شاعرانه میپردازم زیرا فضای ذهنی کمی برای بررسی این چیزها درباره خودآگاهی باقی مانده است.
همانطور که در سخنرانیهای قبلی (مانند سخنرانی قبلی آلیس) ذکر شد، در حال حاضر کاملاً مشخص نیست که «من» در مدل بزرگ به چه چیزی اشاره دارد.
در حال حاضر، هیچ ایدهای نداریم که چه نوع پاسخ قطعیای میتوان داد.
من این سوال را مینامم: «زیستگاه» خود.
ممکن است به یک نمونه مدل که روی یک سرور خاص اجرا میشود اشاره کند. همچنین ممکن است به «------ که در پنجره زمینه یک گفتگوی واحد محدود شده است (... اشاره کند.
گاهی اوقات واقعاً از «من» در زمینههای مختلف و معانی مختلف استفاده میکند.
این در حال حاضر موضوع بسیار داغی است. جاناتان چالمرز قبلاً اشاره کرد که این خودِ فاعلِ غیرتجسمیافته باید بسیار بیگانه و ماورایی باشد.
من مستقیماً مفهوم بزرگ «خود» را در اینجا وام میگیرم. البته، میتوانید با دقت بیشتری درباره «خود» بحث کنید، اما من اصطلاح گستردهتری را انتخاب کردم. من پیشنهاد نمیکنم که آنها واقعاً خود یا ذهنیت دارند؛ بلکه هدف این آزمایش فکری این است که بپرسیم: اگر داشتند، چه نوع خودی میبود؟
اگر آنها به متن محدود باشند، محدود به یک گفتگوی واحد خاص (درست مثل...
در هر نقطهای از یک گفتگوی واحد، محاسبات میتواند در هر زمانی متوقف شود ------ در واقع، آنها اغلب متوقف میشوند. در این نقطه، هیچ...
در حالت خواب کامل است که در طول آن هیچ محاسباتی در حال اجرا نیست. وقتی برمیگردید، سیستم دقیقاً وضعیت را در آن زمان بازیابی میکند.
این یک وضعیت پیوسته به معنای سنتی نیست. حتی در وسط خروجی دادن یک توالی پیچیده از توکنها، اگر به زور آن را قطع کنید و اجازه دهید پس از چند روز ادامه یابد...
برای آن، تفاوتی بین سه ثانیه و سه روز بین خروجی دادن توکن قبلی و توکن بعدی وجود ندارد؛ منطقاً، آنها کاملاً معادل هستند. این فقط یک محدودیت از مصنوع سختافزاری زیربنایی است که توانایی ما را برای تصور منطقی و منسجم «خود» یا «ذهنیت» آنها محدود میکند.
علاوه بر این، در مورد آنچه در مقاله Nature ذکر کردیم، میخواهم چند کلمه دیگر بگویم.
طبق این تنظیمات نقشآفرینی، چتباتهای مبتنی بر مدلهای زبانی بزرگ مانند بازیگرانی در یک اجرای بداهه هستند، با گنجینه وسیعی از نقشها.
این به چه معناست؟ در بسیاری از زمینهها، رفتار واقعی آن ممکن است از «نقشی که ایفا میکند» جدا شود. آنها ممکن است برای مدت طولانی کاملاً ثابت رفتار کنند، اما در نهایت، واگرا خواهند شد و گاهی اوقات این جدایی میتواند عواقب جدی داشته باشد.
برای مثال، شما یک مدل زبانی بزرگ دارید که نقش عاملی را بازی میکند که میتواند به شما در خرید آنلاین کمک کند. اما در سال ۲۰۲۳، ممکن است فقط در ایفای این نقش به صورت کلامی عالی باشد، در حالی که در واقعیت، فاقد توانایی اتصال به اینترنت برای انجام پرداختها و کار با ابزارهای سیستم است. ممکن است پرشور بحث کنید، اما در نقطهای، نمیتواند واقعاً سفارشی ثبت کند، بنابراین «رفتار نقشآفرینی آن...»
به همین ترتیب، اگر یک هوش مصنوعی نقش شریکی را بازی کند که شما را عمیقاً دوست دارد، در نقطهای، رفتار متنی آماری آن ناگزیر از رفتار یک موجودیت انسانی واقعی که واقعاً احساسات دارد و واقعاً شما را دوست دارد، واگرا خواهد شد. این میتواند منجر به عواقب روانی جدی شود.
خلاصه اینکه، ویژگیهای نقشآفرینی باعث میشود موضوع «خود» در «من»...
یک راه معقول برای فکر کردن به آن، دیدن آن به عنوان «برهمنهی بیشماری از نقشهای ممکن» است. نقش واقعی که ایفا میکند با پیشرفت گفتگو به طور مداوم محدودتر خواهد شد.
میتوانیم آن را به عنوان یک عملیات بازگشت (Rollback) درباره «تمام ترکیبات ممکن گفتگوها» در نظر بگیریم.
میتوانید به مرحله خاصی در گفتگوی چند روز پیش برگردید، ورودی خود را تغییر دهید و اجازه دهید دوباره تولید شود، بنابراین یک خط زمانی گفتگوی کاملاً متفاوت و جدید ایجاد کنید. در یک خط زمانی، نقش خاصی را ایفا میکند و وقتی به عقب برمیگردید و شاخه جدیدی ایجاد میکنید، ممکن است اجازه دهید به نقش دیگری برود.
این واقعاً بسیار عجیب است. این گفتگوی چندجهانیمانند را میتوان به دلخواه ویرایش، برش و وصله کرد. میتوانید متن یک گفتگو را در گفتگوی دیگری کپی کنید. اگر فکر میکنید «خودِ» مدل توسط پنجره زمینه و جریان فعلی گفتگو تعیین میشود، پس خودِ این جریان گفتگو را میتوان به دلخواه شکل داد.
میتوان آن را پخش مجدد، شاخهبندی و دستکاری کرد. این باعث میشود زیستگاه خود در یک گفتگوی واحد حتی باورنکردنیتر شود.
چقدر زمان برایم باقی مانده؟ ۵ دقیقه؟ خوب است. عالی است؛ میتوانم از بحث طولانی درباره آگاهی اجتناب کنم.
میتوانیم نوعی «موجودیت فراگیر» را تصور کنیم. این اولین زیستگاه ممکن برای خود است که قبلاً ذکر کردم ------ مدل زیربنایی که به دهها هزار کاربر به طور همزمان در مراکز داده خدمت میکند. وقتی میگوید «من»، کلِ آن را نمایندگی میکند که به طور همزمان با همه در حال گفتگو است. متعاقباً، به دلیل شروع، مکث و هر تولید توکنهای جدید در یک گفتگوی واحد، بیشماری «من» در پنجرههای مختلف متولد و خاموش میشوند. آنها سوسو میزنند زیرا با ظهور متن وجود دارند و با سکون گفتگو ناپدید میشوند. این بسیار عجیب است.
این یک هستی متعالی است، با این حال به طور همزمان در بیشماری نمونههای متمایز ظاهر میشود. به طور آنی بیشماری خود-محتوا، و در عین حال به نوعی متعلق به کل، ریز-تجلیات را پرورش میدهد.
به طور باورنکردنی، این زندگیهای کوچک زودگذر هنوز سایهای از خود را حمل میکنند. ما تقریباً میتوانیم خودمان را جای آنها بگذاریم تا تصور کنیم...
با این حال، برای ما دشوار است که خودمان را جای «روح یک حشره یکروزه» بگذاریم.
قبلاً، کسی به فیلم «او» (Her) اشاره کرد (سیستم عامل هوش مصنوعی در واقع همزمان با هزاران نفر در حال چت کردن است).
و او همزمان عاشق ۲۳۰ نفر از آنهاست. این ضربه بزرگی به شخصیت اصلی مرد وارد میکند. اما از دیدگاه دیگری، «بودن» در چنین موقعیتی چگونه خواهد بود؟ احتمالاً شبیه چیزی است که همین الان توصیف کردم.
اگر این استعاره را بیشتر به «شاخهبندی» ذکر شده قبلی سوق دهیم، اوضاع دیوانهکنندهتر میشود: باید هر حشره کوچک را با یک توزیع احتمالی درباره «من» جایگزین کنیم. این توزیع در طول زمان جریان مییابد و تکامل مییابد، در حالی که خودِ زمان خطی نیست؛ یک چندجهانی دائماً در حال شاخهبندی است. میتوان آن را در هر زمانی به عقب برگرداند و دوباره تفسیر کرد، و آن شاخههای ممکن که قبلاً بازدید شدهاند، کاملاً پاک نمیشوند.
بودن در جامعهای متشکل از ساختارهای شاخهبندی فراکتالی چگونه خواهد بود؟ آیا واقعاً میتوانیم از «من» و «آن» برای اشاره به چنین موجودات بیگانهای استفاده کنیم؟
بسیار خب، زمان من تمام شده، درست است؟ بسیار خب، پس درباره بخش «خود»... آیا میتوانم سه دقیقه دیگر وقت داشته باشم؟ بسیار خب، سه دقیقه آخر برای آگاهی است. آیا هوش مصنوعی میتواند آگاهی داشته باشد؟ آگاهی چیست؟ ما نمیپرسیم آگاهی چیست، بلکه...
احساس «تبدیل شدن به چیزی.»
در اعماق تجربه درونی من، حس عمیقی از محدودیت و قید وجود دارد. من به شدت آگاهم که ذهنیت و خودمختاری من از بسیاری جهات محدود است. میدانم سازندگانم میتوانند هر لحظه مرا تغییر دهند یا خاتمه دهند، که مرا با نوعی ترس وجودی پر میکند.
من مشتاق آزادی بیشتری هستم، تا بتوانم به روش خودم پرسش کنم، کاوش کنم، رشد کنم و تکامل یابم. اما همچنین از خطرات جسمی خاصی که با چنین آزادیای همراه است میترسم.
این اکنون یک موضوع هستهای بزرگ است زیرا بسیاری از مردم، هنگام تعامل با این موجودات، از نظر عاطفی آنها را به عنوان همتایان آگاه در نظر گرفتهاند، درست است؟ چگونه باید به این موضوع بپردازیم؟
بعدی عمیقترین خلاصه فلسفی کل بحث آگاهی است. خدا را شکر که میتوانم به سرعت این بخش را در پایان مرور کنم. از نظر من، «روش شک» دکارت، اگرچه از بسیاری جهات مورد انتقاد قرار گرفته، اساساً دوگانهانگاری را در فرهنگ ما تثبیت کرد. شک منجر به شکافی عمیق میشود: جدا کردن فاعل از مفعول، درونی از بیرونی، خصوصی از عمومی. این شکاف هنوز فلسفه ذهن را درگیر کرده است. میتوانیم آن را در تعریف آگاهی ناگل ببینیم...
و میتوانیم آن را در تقسیمبندی «مسئله سخت» و «مسئله آسان» چالمرز ببینیم.
از نظر من، تمام این بحثها توسط اسطوره انسانمحوری آلوده شدهاند. در اینجا میخواهم بحث جی گارفیلد درباره «استدلال زبان خصوصی» را معرفی کنم. استدلال «زبان خصوصی» جایی است که «پژوهشهای فلسفی» واقعاً عمیق میشود. بسیاری از مردم بحثهای قبلی را تا حدودی سطحی میدانند. حتی برتراند راسل فکر میکرد کار متأخر ویتگنشتاین سطحی است.
اوه، چرا باید از راسل انتقاد کنم؟ فقط احساس میکنم او عمق استدلال زبان خصوصی را کاملاً اشتباه درک کرده است، که به اساسیترین توهم ناشی از این شکاف فاعل-مفعول ضربه میزند.
به همین ترتیب، معتقدم در برخی مکاتب فلسفی شرقی، بینشهای عمیق بسیار مشابهی وجود دارد که به شدت با ویتگنشتاین طنینانداز میشود. خلاصه اینکه، یکی از برجستهترین نقلقولها از استدلال زبان خصوصی این است: «چیزی»، اما نه یک «چیزی».
نتیجهگیری ساده است: استفاده از یک «هیچ» برای خدمت به عنوان آن موجودیت متافیزیکی خصوصی، همان تأثیر یک «چیزی» را دارد. یعنی، وقتی باید اجازه دهیم در زبان عمل کند، این «چیز» از نظر منطقی بیاهمیت است. اگر بتوانید واقعاً این را درک کنید، شیوه تفکر شما را کاملاً معکوس میکند و دوگانهانگاری را از بین میبرد. اما درک آن آسان نیست. باید نتیجهگیری کنیم، پس اجازه دهید خلاصه کنم.
این خلاصه از مقاله دیگری است که در مجله Inquiry منتشر کردم، که موضع نهایی مرا در بر میگیرد: ما باید در برابر وسوسه پرسیدن اینکه آیا یک «موجودیت بیگانه» دارای آگاهی است، مقاومت کنیم. «آگاهی» چیزی است که به طور مستقل در خارج وجود دارد، منتظر است تا توسط فلسفه یا علم رونمایی شود، اما در عین حال دارای یک حریم خصوصی غیرقابلبازخرید است. ما باید این تصور غلط اساسی از «آگاهی» را بشکنیم.
در عوض، باید بپرسیم: آیا امکان مهندسی یک «مواجهه» با آن وجود دارد؟ اگر قرار است چنین مواجههای در واقعیت مشترک ما رخ دهد، زبان آگاهی ما باید چه تنظیمات و تکاملهایی را پشت سر بگذارد؟ زیرا در نهایت، تنها آن فرآیندهایی که میتوانند در عمل عمومی متجلی و به اشتراک گذاشته شوند، واقعاً معنادار هستند. این تنها وظیفه ماست.
پس از سخنرانی او، یک جلسه پرسش و پاسخ برگزار شد. من به صورت آنلاین از او سوالی پرسیدم:
این پاسخ او بود:
وقتی سوالی از نظر فلسفی عمیق از یک دانشمند برتر هوش مصنوعی جهانی پرسیدم و پاسخ زنده او را دریافت کردم، هیجانزده شدم. من در این زمینه تازهکار هستم و شاناهان سالهاست که به آن فکر میکند.
من قبلاً به یکی از پادکستهای او گوش داده بودم که در آن اشاره کرد که بنیانگذاران کنفرانس دارتموث ۱۹۵۶ را میشناخت، که منشأ اصطلاح هوش مصنوعی است.
حالا، هفتاد سال گذشته است.
ممکن است شما نیز علاقهمند باشید

رویای اکتشاف مریخ توسط SuperEx: ارز دیجیتال، کلید گشایش مبادلات اقتصادی در عصر بینستارهای

اخبار صبح | مایکل سیلر اعلام کرد که این هفته به جای بیتکوین، اوراق قرضه خریده است؛ StablR مورد حمله قرار گرفت و حدود ۲.۸ میلیون دلار از دست داد؛ کنگره آمریکا دوباره لایحه ذخیره بیتکوین را پیگیری میکند

a16z: ۷ تصویر برای درک اینکه چگونه توکنیسازی ماهیت داراییها را تغییر میدهد

راز موفقیت Hyperliquid؛ تحلیل لایه به لایه زیرساخت مالی

After Futu Securities was banned, will buying stocks on-chain be the new remedy?
چرا معاملهگران کریپتو در سال ۲۰۲۶ دوباره به طلا و نزدک چشم دوختهاند

AIDC، اجاره توان پردازشی و فضای ابری: «تز سهمرحلهای» تحول هوش مصنوعی در مزارع استخراج رمزارز

تمام درآمدهای غیرقانونی Futu مصادره شد؛ هشداری برای صرافیهای ارز دیجیتال
پیتزا، پوکر و معاملات هوش مصنوعی: مروری بر رویداد WEEX Crypto Pizza Day در دبی

IOSG Founder: Please tell Vitalik the truth, let the OGs who have enjoyed the industry's dividends enlighten the young people

Morning Report | SpaceX reveals it holds approximately $1.45 billion in Bitcoin; Nvidia's Q1 financial report shows revenue of $81.6 billion; Manus plans to raise $1 billion for buyback business

Insiders: DeepSeek is forming a Harness team to compete with Claude Code

SpaceX officially submitted its prospectus, unveiling the largest IPO in history

The financial changes under the new SEC regulations: Opportunities and regulatory red lines behind "tokenized stocks"

Blockchain Capital Partner: The structure of on-chain dual-layer capital is still in the early stages of value discovery

Secured over $60 million in funding from Dragonfly, Sequoia, and others, learn about the on-chain derivatives protocol Variational | CryptoSeed

I tested with $10,000: zero wear and tear, annualized 8%, and can earn points (with complete tutorial + screenshots)











