تصور کنید سالها در یک کتابفروشی قدیمی کار کردهاید؛ جایی که بیشتر مشتریها برای پیدا کردن یک نسخه فراموششده، کتابی نایاب یا اثری که سالهاست تجدید چاپ نشده وارد میشوند.
بعد ناگهان مشتری ناشناسی از آن سوی دنیا پیدا میشود و نه یک کتاب، بلکه تعداد زیادی از کتابهای کممشتری شما را سفارش میدهد.
حتی هزینه ارسال سنگین هم برایش اهمیتی ندارد.
چند روز بعد دوباره سفارش میدهد. و دوباره.
برای مارسال فونت، شاعر، استاد ادبیات تطبیقی و فروشنده کتابهای قدیمی در کاتالونیا، ماجرا از همینجا شروع شد؛ مجموعهای از خریدهای غیرعادی که ابتدا بیشتر شبیه یک کلاهبرداری اینترنتی به نظر میرسید.
اما دنبالکردن رد این سفارشها او را به داستانی بسیار بزرگتر رساند؛ داستان عطش صنعت هوش مصنوعی برای چیزی که هر روز کمیابتر میشود: دادههای تازه و تولیدشده توسط انسان.
سفارشهایی که هیچ شباهتی به خرید معمول کتاب نداشتند
فونت حدود دو دهه در بازار کتابهای دستدوم و قدیمی فعالیت کرده است. بنابراین دیدن مشتریان عجیب برای او اتفاق تازهای نبود.
اما سفارشهایی که در بهار دریافت کرد، یک تفاوت مهم داشتند.
در فاصلههای کوتاه، سفارشهایی برای تعداد زیادی کتاب ثبت میشد و مشتری حاضر بود هزینه ارسال بسیار بالایی برای انتقال آنها به خارج از کشور بپردازد.
فونت و دوستش خاویر وینایخا، پژوهشگر هوش مصنوعی، موضوع را بررسی کردند و متوجه شدند کتابفروشان دیگری در نقاط مختلف جهان نیز تجربهای مشابه داشتهاند.
ماجرا دیگر شبیه خرید عجیب یک مجموعهدار ثروتمند نبود.
رد این خریدها به چیزی میرسید که بعدها با نام «پروژه پاناما» مطرح شد.
پروژه پاناما چیست؟
نام پروژه پاناما در جریان یک پرونده حقوقی مرتبط با شرکت هوش مصنوعی Anthropic مورد توجه قرار گرفت.
بر اساس سندی که در جریان این پرونده منتشر شد، پروژهای با هدف اسکن و دیجیتالی کردن حجم عظیمی از کتابها دنبال شده بود؛ حتی با استفاده از روشهایی که میتوانست نسخه فیزیکی کتاب را از بین ببرد.
اینجاست که داستان یک خرید عجیب در یک کتابفروشی محلی به یکی از مهمترین پرسشهای عصر هوش مصنوعی تبدیل میشود:
هوش مصنوعی برای باهوشتر شدن به چه مقدار از دانش مکتوب بشر نیاز دارد؟
و مهمتر:
برای به دست آوردن این دانش تا کجا میتوان پیش رفت؟
چرا هوش مصنوعی به کتابهای قدیمی نیاز پیدا کرده است؟
برای فهمیدن ماجرا باید کمی درباره نحوه آموزش مدلهای زبانی بزرگ بدانیم. مدلهایی که پشت ابزارهای هوش مصنوعی مولد قرار دارند، برای یادگیری زبان به حجم عظیمی از متن نیاز دارند.
در مراحل اولیه، اینترنت منبعی تقریباً بیانتها به نظر میرسید:
ویکیپدیا، وبسایتها، وبلاگها، انجمنها، مقالهها و حجم بزرگی از متنهای عمومی. بعد منابع دیگری به مجموعه دادههای آموزشی اضافه شدند؛ از مطالب رسانهای گرفته تا زیرنویس ویدئوها و کتابهایی که قبلاً دیجیتالی شده بودند.
اما یک مشکل اساسی وجود دارد.
این منابع نامحدود نیستند.
بخش بزرگی از محتوای آسان و در دسترس اینترنت قبلاً جمعآوری شده است. در نتیجه برای پیدا کردن دادههای تازه باید به سراغ جاهایی رفت که هنوز ردپای کمتری در فضای دیجیتال دارند.
و یکی از این مکانها همان جایی است که شاید کمتر کسی تصور میکرد:
قفسه کتابفروشیهای قدیمی.
فیرتمن، یکی از نویسندگان حاضر در پرونده علیه Anthropic، در گزارش توضیح میدهد که پس از استفاده از منابع آنلاین و کتابهای قبلاً دیجیتالیشده، توجه به آثار چاپی کمتر شناختهشده افزایش یافته است.
گاهی این کتابها درباره موضوعاتی هستند که شاید تقریباً هیچ اطلاعات مشابهی درباره آنها در اینترنت وجود نداشته باشد.
همین ویژگی آنها را برای آموزش مدلهای آینده ارزشمند میکند.
کتابهایی که برای تبدیل شدن به داده قربانی میشوند
اما چگونه میتوان میلیونها صفحه کتاب را با سرعت بالا دیجیتالی کرد؟
یک روش، اسکن معمولی کتاب است. صفحات باز میشوند و بدون آسیب جدی تصویربرداری میشوند. این روش برای کتابخانهها و پروژههای آرشیوی منطقی است، اما وقتی هدف پردازش میلیونها جلد کتاب باشد، یک مشکل دارد:
کند است.
روش سریعتر بسیار خشنتر است.
عطف کتاب بریده میشود، صفحات از یکدیگر جدا میشوند و سپس در اسکنرهای صنعتی قرار میگیرند.
به این ترتیب صدها صفحه میتواند با سرعت بسیار بیشتری اسکن شود.
اما در پایان، چیزی که باقی میماند دیگر یک کتاب نیست.
صفحات جدا شدهاند و نسخه فیزیکی عملاً قابل بازسازی نیست. گزارش توضیح میدهد که این روش به دلیل سرعت و هزینه کمتر برای پردازش انبوه مورد استفاده قرار میگیرد.
اینجاست که یک تناقض عجیب شکل میگیرد:
برای حفظ محتوای یک کتاب در دنیای دیجیتال، ممکن است خود کتاب فیزیکی نابود شود.
آیا نابود کردن یک کتاب برای آموزش AI قابل توجیه است؟
جواب این سؤال به نوع کتاب بستگی دارد.
اگر از کتابی میلیونها نسخه چاپ شده باشد و تعداد زیادی از آن در کتابخانهها نگهداری شود، نابودی یک نسخه شاید از نظر فرهنگی چندان مهم به نظر نرسد.
اما وضعیت درباره نسخههای کمیاب کاملاً متفاوت است.
یک کتاب قدیمی فقط مجموعهای از کلمات نیست.
گاهی خود نسخه حامل بخشی از تاریخ است.
ممکن است روی صفحات آن یادداشتهای صاحب قبلی وجود داشته باشد.
ممکن است جلد آن به شیوهای خاص ساخته شده باشد.
مهر یک کتابخانه فراموششده یا امضای نویسنده در آن وجود داشته باشد.
حتی جنس کاغذ، نوع چاپ و شیوه صحافی میتواند برای پژوهشگران اهمیت داشته باشد.
رئیس انجمن حرفهای کتاب و مجموعهداری آثار قدیمی اسپانیا نیز در گزارش تأکید میکند که میان نسخههای پرتیراژ و آثار محدود، کمیاب یا منحصربهفرد باید تفاوت گذاشت.
در نتیجه ممکن است یک شرکت تصور کند فقط «متن» یک کتاب را استخراج کرده، در حالی که بخشی از اطلاعات تاریخی آن را برای همیشه از بین برده است.
دیجیتالی کردن با حفظ کردن فرق دارد
این شاید مهمترین نکته کل این داستان باشد.
ما معمولاً تصور میکنیم اگر کتابی اسکن شود، پس برای همیشه حفظ شده است.
اما لزوماً اینطور نیست.
اگر فایل دیجیتال فقط در یک پایگاه داده خصوصی ذخیره شود و کتابخانهها، پژوهشگران و مردم به آن دسترسی نداشته باشند، آیا واقعاً میتوان گفت اثر حفظ شده است؟
همچنین بسیاری از ویژگیهای یک کتاب هنگام تبدیل شدن به متن ساده از بین میروند.
حاشیهنویسیها، تصاویر، مشخصات چاپ، شیوه صحافی، منشأ نسخه و بسیاری از اطلاعات دیگر ممکن است وارد مجموعه داده نشوند.
این دادههای جانبی همان چیزی هستند که متخصصان از آن با عنوان متادیتا یا فراداده یاد میکنند.
و گاهی همین فراداده از خود متن مهمتر است.
فرض کنید در یک نسخه قدیمی جملهای در حاشیه صفحه نوشته شده باشد که نشان دهد کتاب زمانی در اختیار یک شخصیت تاریخی بوده است.
برای مدل هوش مصنوعی شاید متن اصلی کتاب کافی باشد.
برای یک مورخ، همان نوشته کوچک ممکن است مهمترین بخش کل نسخه باشد.
کتابهایی که حتی ISBN هم ندارند
مشکل بزرگتر زمانی ظاهر میشود که پروژههای عظیم دیجیتالیسازی تصمیم بگیرند چه چیزی ارزش اسکن شدن دارد و چه چیزی ندارد.
بخش بزرگی از آثار منتشرشده در تاریخ معاصر اصلاً ISBN ندارند.
نشریات مستقل، آثار زیرزمینی، جزوههای سیاسی، آثار گروههای کوچک فرهنگی و بسیاری از نوشتههایی که خارج از سیستم رسمی نشر منتشر شدهاند ممکن است در هیچ فهرست استانداردی ثبت نشده باشند.
فونت هشدار میدهد که کنار گذاشتن چنین آثار ناشناختهای از فرایند دیجیتالیسازی میتواند باعث شود بخشهایی از حافظه فرهنگی جوامع عملاً از روایت آینده حذف شوند.
و اینجا مسئله از حفاظت کتاب فراتر میرود.
اگر نسل آینده هوش مصنوعی عمدتاً با دادههایی آموزش ببیند که به راحتی قابل شناسایی و خرید بودهاند، چه بخشهایی از فرهنگ انسانی در آموزش آن نمایندگی نخواهند شد؟
مشکل واقعی هوش مصنوعی شاید تراشه نباشد؛ داده است
سالها تصور میشد بزرگترین مانع توسعه هوش مصنوعی قدرت پردازشی باشد.
GPU بیشتر.
مرکز داده بزرگتر.
سرورهای قدرتمندتر.
اما اکنون یک مانع متفاوت بیش از پیش خود را نشان میدهد:
داده انسانی باکیفیت.
وینایخا در گزارش مسئله را به شکلی روشن بیان میکند: محدودیت نهایی ممکن است نه قدرت پردازشی، بلکه تمام شدن دادههای تازه باشد.
این موضوع توضیح میدهد چرا یک کتاب ناشناخته درباره موضوعی بسیار محلی میتواند ناگهان برای یک شرکت فناوری ارزشمند شود.
برای انسان شاید کتابی درباره تاریخ یک حرفه محلی یا موضوعی تخصصی چندان جذاب نباشد.
اما برای یک مدل زبانی، چنین اثری چیزی دارد که میلیاردها صفحه وب فاقد آن هستند:
اطلاعاتی که هنوز وارد حافظه دیجیتال نشده است.
وقتی هوش مصنوعی مجبور شود نوشتههای خودش را بخواند
اما اگر داده انسانی واقعاً به پایان برسد چه؟
پاسخ احتمالی، استفاده بیشتر از داده مصنوعی است؛ یعنی محتواهایی که خود مدلهای هوش مصنوعی تولید کردهاند.
و این موضوع نگرانی تازهای ایجاد میکند.
تصور کنید یک مدل بر اساس متن تولیدشده توسط مدل دیگری آموزش ببیند.
سپس نسل بعد دوباره از خروجی همان مدلها یاد بگیرد.
و این فرایند بارها تکرار شود.
در هر مرحله ممکن است مقداری از ظرافت، اطلاعات و دقت محتوای اولیه از دست برود.
در گزارش BBC این وضعیت به تصویری بسیار قابل فهم تشبیه شده است:
مانند ماری که دم خودش را میخورد.
نتیجه میتواند چیزی شبیه «خلاصهای از خلاصه یک خلاصه» باشد؛ متنی که هر بار از منبع اصلی فاصله بیشتری میگیرد و خطاهای قبلی را نیز با خود حمل میکند.
راهحل چیست؟ کتابها را خودمان دیجیتالی کنیم
منتقدان این روند الزاماً مخالف دیجیتالیسازی نیستند.
برعکس، یکی از پیشنهادهای مطرحشده این است که کتابخانهها، ناشران، دانشگاهها و صاحبان مجموعههای فرهنگی خودشان مسئولیت دیجیتالیسازی میراث خود را بر عهده بگیرند.
در چنین مدلی، کتاب نابود نمیشود.
متادیتا حفظ میشود.
نسخه دیجیتال با کیفیت مناسب تهیه میشود.
و در نهایت میتوان استفاده از داده را تحت مجوز مشخص در اختیار شرکتهای هوش مصنوعی قرار داد.
وینایخا نیز پیشنهاد میکند صاحبان این میراث، آثار خود را اسکن و نگهداری کنند و در صورت نیاز، داده آنها را به شکل کنترلشده مجوز دهند؛ به این ترتیب هم مدلهای AI به داده دسترسی دارند و هم نسخه فیزیکی برای پژوهشگران باقی میماند.
این مدل میتواند رابطه میان صنعت هوش مصنوعی و صاحبان محتوا را از «استخراج داده» به نوعی همکاری تبدیل کند.
پروژه پاناما چه چیزی درباره آینده هوش مصنوعی به ما میگوید؟
داستان پروژه پاناما فقط درباره چند کتاب قدیمی نیست.
این ماجرا تصویری از یکی از مهمترین چالشهای مرحله بعدی توسعه هوش مصنوعی ارائه میکند.
مدلهای امروزی مقدار عظیمی از اینترنت را خواندهاند.
نسل بعدی مدلها برای بهتر شدن باید چیزهای بیشتری یاد بگیرند.
و هرچه بخش دیجیتال دانش بشر بیشتر مصرف شود، ارزش چیزهایی که هنوز آنلاین نشدهاند بیشتر خواهد شد.
کتابهای قدیمی، آرشیوهای محلی، اسناد، مجلات فراموششده و حتی جزوههایی که چند دهه پیش با تیراژی اندک چاپ شدهاند ممکن است به معدن تازه صنعت هوش مصنوعی تبدیل شوند.
این میتواند فرصتی بزرگ برای حفظ و دیجیتالی کردن میراث مکتوب باشد.
اما اگر بدون استانداردهای روشن انجام شود، نتیجه ممکن است عکس آن باشد:
دانش حفظ شود، اما سندی که آن دانش را به ما رسانده از بین برود.
یک سفارش تازه
ماجرا برای کتابفروش کاتالان هنوز تمام نشده است.
پس از مدتی وقفه، سفارشهای تازه دوباره ظاهر شدند و حتی مقصد ارسال کتابها نیز تغییر کرده است.
فونت این اتفاق را نشانه روشنی میداند که داستان همچنان ادامه دارد.
شاید در این لحظه، جایی در یک کتابفروشی کوچک دیگر، کتابی که سالها هیچکس سراغش را نگرفته در حال بستهبندی باشد.
کتابی که احتمالاً آخرین صاحب انسانیاش نمیداند مقصد نهایی آن کجاست.
ممکن است چند هفته دیگر صفحاتش بریده و اسکن شوند.
خود کتاب شاید دیگر وجود نداشته باشد.
اما کلماتش وارد مجموعهای از اعداد میشوند؛ دادههایی که روزی ممکن است بخشی از پاسخ هوش مصنوعی به یکی از پرسشهای ما باشند.
و این شاید عجیبترین تناقض عصر AI باشد:
ماشینهایی که قرار است دانش بشر را حفظ و بازتولید کنند، بیش از هر زمان دیگری گرسنه همان چیزهایی شدهاند که انسانها طی قرنها روی کاغذ نوشتهاند.