برای زنده ماندن در دوران جدید اسپم ربات، به تاریخچه Crypto's نگاه کنید

مشروح:

این دیوید زی موریس است که جای مایکل کیسی را پر می کند تا در مورد به اصطلاح هوش مصنوعی، تهدیداتی که برای آینده ایجاد می کند - و اینکه رمزارز چگونه می تواند به کاهش آنها کمک کند صحبت کند.

همانطور که مایکل مطمئناً موافق است، هیچ روز تعطیلی واقعی در کریپتو وجود ندارد. وقتی اخیراً یک آخر هفته طولانی را در همایش داستانی Readercon فوق العاده گذراندم به خودم یادآوری کردم. به ناچار، من برخی از داستان‌های مهم رمزنگاری را از دست دادم، اما در عین حال اطلاعاتی از نزدیک در مورد یک نوآوری جدید دریافت کردم: تهدید وجودی که مدل‌های بزرگ زبان خودکار (LLM) مانند GPT3 برای کل اینترنت ایجاد می‌کنند.

شما در حال خواندن Money Reimagined هستید، نگاهی هفتگی به رویدادها و روندهای فناوری، اقتصادی و اجتماعی که رابطه ما با پول را بازتعریف می کنند و سیستم مالی جهانی را متحول می کنند. برای دریافت خبرنامه کامل اینجا

ممکن است هذلولی به نظر برسد. اما در Readercon با نیل کلارک، بنیانگذار و سردبیر مجله علمی تخیلی Clarkesworld آشنا شدم که همراه با سایر نشریات داستانی به قناری در معدن زغال سنگ A.I تبدیل شده است. دوان دوان ظهور ChatGPT این مجلات را با سیل داستان های تقلبی تولید شده توسط GPT غرق کرده است، طاعون شدیدی که Clarkesworld مجبور شد در فوریه امسال ارسال ها را به طور موقت متوقف کند و کار و معیشت نویسندگان واقعی را تهدید کند.

کلارک می‌گوید: «من آن را هرزنامه نامیده‌ام، زیرا این همان چیزی است که هست. من گاهی حتی نمی‌توانم آن را «هوش مصنوعی» بنامم. شما نمی‌توانید این چیزها را انسانی کنید. این مانند فیلم های علمی تخیلی نیست که در آن آگاه باشد. این یک مدل [زبان] آماری است."

ذکر هرزنامه باید توجه ناظران قدیمی ارزهای دیجیتال را افزایش دهد: همین مشکل در منشأ بیت کوین نهفته است.

بین سال‌های 1998 و 2002، دانشمند کامپیوتر، آدام بک، مفهوم "Hashcash" را توسعه داد، که هدف اصلی آن مبارزه با هرزنامه‌های ایمیل از طریق نیاز به پرداخت ناچیز برای ارسال آن بود. بازگشت و ایده های او برای توسعه بیت کوین پایه و اساس شد و او اکنون مدیر عامل توسعه دهنده رمزارز Blockstream است.

دو دهه بعد، با انبوهی از بربرهای روباتیک که آماده اند تا سیستم های ارتباطی انسانی را باتلاق کنند، شاید زمان آن رسیده باشد که مفهوم Hashcash را دوباره بررسی کنیم.

هستلرهای بزرگ زبان

در حالی که آنها با مشکل هرزنامه مواجه شدند، کلارک می گوید که او و تیمش به سرعت متوجه شدند که حمله هماهنگ شده است. کانال‌های YouTube و TikTok که بر طرح‌های ثروتمند شدن سریع متمرکز شده‌اند به بینندگان قول می‌دهند که با ارسال داستان‌های تولید شده توسط GPT به مجلات داستانی مانند Clarkesworld، هزاران دلار درآمد کسب کنند. Clarkesworld برای هر داستان چند صد دلار می پردازد، بسته به طول داستان - در برخی از نقاط جهان بسیار بیشتر از پول آبجو نیست، اما در برخی دیگر بسیار معنی دار است.

به نظر می‌رسد آن وعده‌های کلاه‌برانگیز از سوی گردانندگان آنلاین به سرعت گسترش یافته است. کلارک می گوید که در ماه دسامبر 54 مورد ارسالی توسط هوش مصنوعی دریافت کرده است. او در ژانویه 117 داستان جعلی دریافت کرد. در فوریه، این تعداد به 514 رسید قبل از اینکه کلارک ارسال‌ها را در ظهر روز 20 فوریه بست.

او می‌گوید: «آن روز صبح به تنهایی، 50 تا داشتیم.»

Clarkesworld کارکنان کوچکی دارد که معمولاً حدود 1100 ارسال را در ماه بررسی می کنند. بنابراین سیل سریع زباله‌ها آنها را تهدید می‌کرد و راه‌حل‌ها مشخص نبود.

کلارک می‌گوید: «ما یک فرآیند ارسال آزاد داریم، که به طور خاص برای استقبال از نویسندگان جدید و صداهای جدید طراحی شده است. بنابراین ما می‌توانیم ارسال‌ها را از مکان‌های خاصی ببندیم [برای مبارزه با هرزنامه‌ها]، اما همچنین نویسندگان قانونی داریم که از آن کشورها وارد می‌شوند. و چیزهایی به ما گفته شده است، "پرداخت این داستان برای یک ماه قبض های من را پوشش می دهد."

«نویسندگانی مانند آن در حال دفن شدن هستند. A.I. ارسال‌ها به نویسندگان جدید و نویسندگانی که ممکن است از جوامعی نباشند که به خوبی با هم ارتباط دارند آسیب می‌رساند. این یکی از راه‌های واضحی است که محتوای تولید شده به‌طور خودکار اینترنت را برای انسان‌ها بدتر می‌کند - به‌ویژه افرادی که در حاشیه هستند.

Clarke همچنین یک کدنویس است که به او ابزارهای مفیدی برای رسیدگی به چالش هرزنامه داده است. او شروع به مرتبط کردن ابرداده‌های بیشتر با ارسال‌ها کرد، مانند اینکه آیا آنها از طریق VPN و طول جلسه کاربر آمده‌اند یا خیر. این معیارها و معیارهای دیگر اکنون به عنوان بخشی از یک "سیستم امتیاز" استفاده می شود که احتمال جعلی بودن داستان ها را بیشتر در صف بررسی قرار می دهد. این به نویسندگان واقعی کمک می کند ابتدا مطالعه شوند، اما همچنین تضمین می کند که هر ارسالی در نهایت بررسی می شود.

در نهایت، اگر مشخص شود داستانی توسط LLM تولید شده است، ارسال کننده برای همیشه از سیستم منع می شود.

این اقدامات در حال حاضر به Clarkesworld کمک کرده است تا ارسال‌ها را دوباره باز کند - اما افزایش مداوم حجم هرزنامه‌هایی که با آن سروکار دارند به این معنی است که راه حل موقتی است.

"بدتر از بدترین نویسنده انسان"

یکی از جنبه‌های مهم تجربه کلارک این است که کیفیت واقعی ارسال‌های رباتیک بسیار پایین بوده است. آنها تقریباً فوراً برای یک خواننده انسانی قابل تشخیص هستند و هیچ شانس واقعی برای انتشار ندارند.

کلارک ادامه می‌دهد: «چیز رایج این است که آنها دستور زبان عالی دارند، املای کاملی دارند. "اما خود داستان ها چندان معنی ندارند. از روی چیزهای مهم می پرند. آنها با یک فرض اولیه، مانند فروپاشی زیست محیطی، شروع می کنند و دانشمندانی را معرفی می کنند که می توانند مشکل را حل کنند، و سپس ناگهان مشکل را حل می کنند. وسط داستان را از دست داده است، و رزرو آن با شروع و پایان کلیشه ای، بسیار ضعیف انجام شده است."

این بسیار شبیه توصیف اخیر تد چیانگ از خروجی ChatGPT به عنوان "یک JPEG مبهم اینترنت" است. این حماقت آشکار با خوشحالی بخش زیادی از تبلیغات مرگبار مغزی در مورد LLM ها را از بین می برد. اما همچنین باعث می‌شود که تصویر ویراستاران بااستعداد (و به شدت کم‌درآمد) که مجبور به سر زدن به زباله‌ها هستند، افسرده‌تر شود.

وعده هزینه های کوچک و قابل استرداد

یک گزینه دیگر برای کاهش ارسال هرزنامه، هزینه ارسال است. کلارک می‌گوید که به دلیل نگرانی‌های اخلاقی و خلاقانه، هیچ تمایل یا برنامه‌ای برای اجرای هزینه‌ای ندارد. به ویژه، هزینه ارسال می تواند دسترسی را محدود کند، که جامعه نویسندگان داستان های علمی تخیلی به شدت با آن مخالف است.

اما فراتر از آن، کاستی‌های فنی زیرساخت‌های پرداخت‌های جهانی کنونی نیز دریافت هزینه ضد هرزنامه را غیرعملی می‌کند، حتی اگر کلارک بخواهد.

برای مثال، کلارک می‌گوید برای دریافت هزینه ارسال، باید بتواند آن را بازپرداخت کند، به عنوان مثال به نویسندگانی که داستان‌هایشان پذیرفته شده است یا به سادگی توسط هوش مصنوعی تولید نشده است. یک هزینه ایده‌آل مسدود کردن هرزنامه نیز بسیار ناچیز خواهد بود - مطمئناً بسیار کمتر از هزینه پستی به ارزش 25 یا 30 دلار که نویسندگان جهان در حال توسعه را در دوران قبل از اینترنت دور نگه می‌داشت.

اما هیچ راهی برای انجام این کار با فناوری فعلی وجود ندارد.

«به من یک شرکت کارت اعتباری بگویید که بتوانم تقریباً همه آن را بازپرداخت کنم. کلارک می گوید من حساب را از دست خواهم داد. همانطور که هر برادر ارز دیجیتال خوب می داند، کارت های اعتباری نیز با پرداخت های کوچک خوب بازی نمی کنند. اما اینها حتی بزرگترین مشکل هم نیستند.

کلارک ادامه می‌دهد: «همچنین مشکلاتی در تلاش برای پرداخت در بخش‌های مختلف جهان وجود دارد. تعدادی از کشورهای آفریقایی وجود دارند که شرکت های کارت اعتباری با آنها کار نمی کنند. بنابراین نویسندگان را حذف می کند. من همچنین افرادی را داشته‌ام که خدمات هویتی را پیشنهاد می‌کنند، اما آن‌ها نیز حفره‌هایی به اندازه یک کشور در خود دارند. ما به چیزی نیاز داریم که برای همه کار کند."

اگر در حال خواندن این مطلب هستید، از قبل می‌دانید که ما به کجا می‌رویم: حداقل در اصل، ارزهای دیجیتال و سیستم‌های مرتبط می‌توانند به کاهش مشکل ارسال جعلی Clarkesworld کمک کنند.

نیاز به پرداخت اندکی برای همه ارسال‌ها، ارسال‌های با کیفیت پایین را کاهش می‌دهد، حجم کاری ویراستاران را کاهش می‌دهد، و آنها را برای هرزنامه‌هایی که وارد می‌شود جبران می‌کند. از آنجایی که پرداخت‌ها می‌توانستند ارزان، سریع و به راحتی به نویسندگان واقعی بازگردانده شوند، هزینه برای نویسندگان واقعی انسانی ناچیز خواهد بود. و از آنجایی که این سیستم‌ها توسط مرزهای ملی محدود نمی‌شوند، هیچ نویسنده واقعی توسط ربات‌ها ازدحام نمی‌شود.

اگرچه نیاز به توضیح قابل توجهی دارد، برخی از نسخه های یک سیستم ممکن است روزی اهداف موازی را در تنظیمات بوتیک کمتر انجام دهند. به عنوان مثال، می‌توان سیستم Steem مانند مشوق‌هایی را تصور کرد که برای مجازات پست‌های خودکار در انجمن‌ها یا رسانه‌های اجتماعی استفاده می‌شود. سیستم‌های هویت غیرمتمرکز پیچیده‌تر، مانند SpruceID، چالش‌برانگیزتر و در حال حاضر نوپاتر هستند، اما می‌توانند حتی پتانسیل عمیق‌تری داشته باشند.

برای واضح بودن، هیچ یک از اینها نباید ضروری باشد. LLMها به‌سرعت به‌عنوان ترفندهایی فراتر از سالن نمایش داده می‌شوند، که احتمالاً کاربرد واقعی آن‌ها، حداقل در کوتاه‌مدت، محدود به خدمات کوتاه مدت به مشتریان و سرگرمی‌های طعمه کلیک است. (به عنوان مثال آزمایش فاجعه بار CNET با استفاده از GPT برای نوشتن مقالات خبری را در نظر بگیرید).

بزرگ‌ترین تأثیرات این فناوری درعوض در گسترش هذیان‌های درجه چهار مشاهده می‌شود که زمان و قدرت مغز همه انسان‌های واقعی را تلف می‌کند. اما اگر این چیزی است که شاهزاده‌های خدای سیلیکون ولی به‌عنوان مرز بعدی ثروت‌های سرمایه‌گذاری خطرپذیر می‌بینند، پس این دنیایی است که ما باید در آن زندگی کنیم. حداقل، رمزارزها امیدی برای مقابله با آن دارند.