به گزارش خبرنگار علم و فناوری ایسکانیوز؛ در میان همه بحثهایی که درباره پیامدهای منفی احتمالی هوش مصنوعی جریان دارد، یک نگرانی بیش از هر موضوع دیگری طرفداران هوش مصنوعی در سیلیکونولی را نگران کرده است. آنها بیم دارند که آزمایشگاههای بزرگ هوش مصنوعی که مدلهای اختصاصی میفروشند، در عمل به نوعی «اسب تروآ» تبدیل شده باشند.
نگرانی اصلی این است که هرچه استارتاپها و شرکتها بیشتر از مدلهای هوش مصنوعی شرکتهایی مانند OpenAI و Anthropic استفاده کنند، این آزمایشگاهها به حجم بیشتری از حساسترین اطلاعات کسبوکار آنها دسترسی پیدا میکنند. از این رو، شرایطی مهیا میشود که سازندگان مدلها بتوانند از این دانش برای منافع خود استفاده کنند و حتی به رقیب مشتریان خود تبدیل شوند. افرادی که چنین هشدارهایی را مطرح کردهاند، از سرمایهگذاران خطرپذیر مانند جیسون کالاکانیس گرفته تا الکس کارپ، مدیرعامل پالانتیر، را شامل میشوند.
اکنون ساتیا نادلا، مدیرعامل مایکروسافت، نیز در یادداشتی وبلاگی که روز یکشنبه منتشر شد، به این جمع پیوسته است. نادلا هشدار میدهد که کاربران هوش مصنوعی (یا به تعبیر او «خریداران») در واقع ۲ بار هزینه میپردازند؛ یک بار به صورت مستقیم برای استفاده از توکنهای هوش مصنوعی و بار دیگر، بدون آنکه متوجه باشند، از طریق واگذاری دادههای ارزشمند خود.
او مینویسد: شما عملاً ۲ بار برای هوش پول پرداخت میکنید؛ یک بار با پول و بار دیگر با چیزی حتی ارزشمندتر: دانشی اختصاصی که برای مفید شدن آن هوش مجبورید در اختیارش قرار دهید. هرچه بخواهید مدل عملکرد بهتری داشته باشد، باید بخش بیشتری از این دانش را به آن تغذیه کنید.
نادلا معتقد است خطرناکترین بخش ماجرا این است که شرکتها عملاً در حال آموزش دادن مدلها درباره ظرافتها و جزئیات کسبوکار خود هستند.
او مینویسد: مدلها از آنچه به جا میماند یاد میگیرند؛ از پرامپتهایی که افراد مینویسند، ابزارهایی که عاملهای هوش مصنوعی استفاده میکنند و بهویژه از اصلاحاتی که کاربران هنگام اشتباه بودن پاسخ مدل انجام میدهند. هر اصلاح، به نوعی دانش سازمانی را استخراج و منتقل میکند.
به باور او، این همان نوع دانشی است که «هیچ رقیبی نمیتواند آن را بخرد»، اما شرکتها در عمل آن را به مدلهای هوش مصنوعی واگذار میکنند.
نادلا استدلال میکند اگر شرکتهای هوش مصنوعی اجازه دارند برای آموزش مدلهای خود آزادانه اینترنت را «خزش» و جمعآوری کنند، منصفانه است که شرکتها نیز بتوانند مدلها را مطالعه یا به اصطلاح «تقطیر» (Distill) کنند.
منظور از خزش یعنی رباتهای خودکار یک شرکت مثل اپنایآی یا آنتروپیک که به صورت خودکار صفحات وب را بازدید و محتوای آنها را جمعآوری میکنند. در واقع منظور نادلا این است که این شرکتها حجم عظیمی از دادههای عمومی اینترنت را جمعآوری و برای آموزش مدلهایشان استفاده میکنند.
«تقطیر» نیز روشی است که در آن از خروجیهای یک مدل برای درک نحوه عملکرد آن و آموزش یک مدل جدید ــ که معمولاً ارزانتر است ــ استفاده میشود. در ماه فوریه، آنتروپیک مدلهای متنباز چینی را متهم کرد که میلیونها درخواست به Claude ارسال کردهاند تا عملکرد مدلهای خود را بهبود دهند و از دولت آمریکا خواست محدودیتهای صادراتی را سختگیرانهتر اجرا کند.
نادلا میگوید سازندگان مدلها نمیتوانند هر ۲ مزیت را همزمان داشته باشند. از نظر او، این رویکردی ریاکارانه است که شرکتها از دادههای جهان برای آموزش مدلهای خود استفاده کنند، اما دیگران را از انجام همان کار روی مدلهایشان منع کنند.
او مینویسد: در حالی که نوآوری بزرگی که از حق استفاده منصفانه ارائهدهندگان مدل برای آموزش بر دادههای عمومی حاصل میشود ضروری است، به نظرم طنزآمیز است که همین شرکتها سپس محدودیتهای سختگیرانهای بر فرایند تقطیر اعمال میکنند.
نادلا بهویژه نگران مواردی است که سازندگان مدلها «حق یادگیری از دادههای استفاده و تعامل مشتریان» را برای خود محفوظ نگه میدارند.
راهکار پیشنهادی نادلا
راهحلی که نادلا ارائه میدهد، تا حد زیادی شبیه پیشنهادی است که از مدیرعامل یکی از بزرگترین ارائهدهندگان خدمات ابری انتظار میرود. او میخواهد شرکتها مالکیت دادههای خود ــ از جمله پرامپتها، بازخوردها و سایر اطلاعات ــ را حفظ کنند.
به همین دلیل، او از شرکتها میخواهد محیطهای یادگیری اختصاصی خود را روی بستر ابر ایجاد کنند؛ جایی که دادههایشان احتمالاً از قبل نیز ذخیره شده است و البته این میتواند به معنای استفاده از سرویس ابری مایکروسافت یعنی Azure باشد.
نادلا همچنین توصیه میکند شرکتها از آنچه «لایههای ارکستراسیون» مینامد استفاده کنند؛ یعنی سازوکاری که امکان جابهجایی آسان میان مدلهای مختلف هوش مصنوعی را فراهم کند و مانع وابستگی کامل به یک ارائهدهنده شود. ابزارهایی مانند «درگاههای هوش مصنوعی» (AI Gateways) که چنین قابلیتی را فراهم میکنند، در سالهای اخیر محبوبیت زیادی پیدا کردهاند.
اگرچه نادلا بهصراحت از عبارت «متنباز» استفاده نمیکند، اما این مفهوم بهوضوح در پسزمینه سخنان او دیده میشود. با این حال، یک پیام ضمنی دیگر نیز وجود دارد.
حرکت شرکتها به سمت مدلهای متنباز
شرکتهای بزرگ، که بسیاری از آنها علاوه بر استفاده از فضای ابری هنوز مراکز داده اختصاصی خود را نیز دارند، بهتدریج به سمت استفاده از مدلهای متنباز روی زیرساختهای داخلی خود (On-Premises) حرکت میکنند.
ایدیت لوین، بنیانگذار و مدیرعامل Solo.io که نرمافزارهای شبکه و امنیت برای مدیریت سامانههای هوش مصنوعی سازمانی تولید میکند، میگوید این تغییر را بهوضوح در میان مشتریان خود مشاهده میکند.
به گفته او، بسیاری از شرکتها پس از آزمایش مدلهای اختصاصی از خود میپرسند آیا نمیتوانم یک مدل متنباز را روی زیرساخت داخلی خود اجرا کنم؟ این مدل تقریباً ۹۰ درصد همان کاری را انجام میدهد که مدلهای بزرگ انجام میدهند، اما هزینه بسیار کمتری دارد.
لوین میگوید: آنها این موضوع را درک کردهاند و میتوانند کنترل کامل آن را در اختیار داشته باشند.
فناوری Solo.io سال گذشته بهعنوان زیرساخت پروژه Agentgateway بنیاد لینوکس انتخاب شد. از جمله مشتریان این شرکت میتوان به T-Mobile، ADP و SAP اشاره کرد. لوین معتقد است استفاده از مدلهای متنباز روی زیرساختهای داخلی، موج بزرگ بعدی در بهکارگیری هوش مصنوعی سازمانی خواهد بود.
او تنها کسی نیست که چنین دیدگاهی دارد. شرکت Vercel ــ که بیشتر به عنوان پلتفرم ساخت و میزبانی وبسایت شناخته میشود و اخیراً ابزارهای جابهجایی میان مدلهای مختلف هوش مصنوعی را نیز ارائه کرده است ــ و همچنین OpenRouter، هر ۲ افزایش چشمگیری در ترافیک مربوط به مدلهای متنباز گزارش کردهاند.
در واقع، ماه گذشته مدلهای متنباز حدود ۲۹ درصد از کل ترافیک عبوری از درگاه هوش مصنوعی Vercel را به خود اختصاص داده بودند.
اکنون که مدیرعامل مایکروسافت -شرکتی که در اپنایآی و آنتروپیک سرمایهگذاری کرده است - آشکارا به شرکتها توصیه میکند در استفاده از مدلهای اختصاصی محتاط باشند، احتمالاً این روند بیش از پیش شتاب خواهد گرفت.
نادلا در پایان مینویسد: وقتی هوش را مصرف میکنید، در حال خلق هوش نیز هستید. و آنچه خلق میکنید، باید متعلق به خود شما باشد.
تنش با شرکای بزرگ؛ روی دیگر هشدار نادلا
یک سال پیش، به نظر میرسید OpenAI برتری دستنیافتنیای در رقابت هوش مصنوعی دارد. این شرکت با اختلاف، قدرتمندترین پلتفرم هوش مصنوعی برای مصرفکنندگان بود. رقبایی مانند متا برای جبران فاصله خود به تکاپو افتاده بودند و میلیاردها دلار برای جذب نیروهای جدید هزینه میکردند. سام آلتمن نیز از نظر سرمایه و نفوذ در موقعیتی قرار داشت که بتواند جانی آیو، طراح افسانهای اپل، را برای ساخت دستگاهی مرموز استخدام کند؛ محصولی که قرار بود با آیفونی رقابت کند که خود آیو در طراحی آن نقش کلیدی داشت. اما حالا روایت تغییر کرده است.
امروز این اپنایآی است که برای رسیدن به رقیب خود، آنتروپیک، تلاش میکند؛ شرکتی که به جای تمرکز بر کاربران عادی، بازار سازمانی را هدف قرار داده بود. از سوی دیگر، به نظر میرسد سام آلتمن دائماً ساختار مدیریتی شرکت را تغییر میدهد و سپس دوباره آن را بازسازی میکند. در همین حال، اپل نیز از اپنایآی شکایت کرده و مدعی شده این شرکت کارکنانش را جذب کرده و اسرار تجاری آن را به سرقت برده است.
هنوز مشخص نیست که آیا اپنایآی با تمرکز اولیه بر بازار مصرفکنندگان بهجای شرکتها اشتباه کرده است یا نه. همچنین نمیتوان با اطمینان گفت که آیا افراد مناسب در جایگاههای مدیریتی مناسب قرار گرفتهاند یا خیر. برای پاسخ به این پرسشها باید منتظر گذر زمان بود. اما فعلاً میتوان روی پرونده شکایت اپل تمرکز کرد.
چیزی که برای من جالب است فقط این نیست که یکی از قدرتمندترین شرکتهای جهان از یکی از ارزشمندترین استارتاپهای دنیا شکایت کرده است؛ یا اینکه ممکن است یکی از مشهورترین مدیران سابق اپل نیز به دادگاه کشیده شود، هرچند نام جانی آیو هنوز در این شکایت ذکر نشده است.
نکته جالبتر این است که این دومین باری است که اپنایآی با یکی از غولهای فناوری متحد میشود و در نهایت رابطه به جدایی پرتنش ختم میشود.
جدایی اول: مایکروسافت
نخستین شکاف در روابط اپنایآی با مایکروسافت رخ داد؛ شرکتی که زمانی مهمترین متحد اپنایآی در میان غولهای فناوری به شمار میرفت. مایکروسافت در سال ۲۰۱۹ یک میلیارد دلار در اپنایآی سرمایهگذاری کرد و سپس در سال ۲۰۲۳، چند ماه پس از موفقیت خیرهکننده ChatGPT، سرمایهگذاری بسیار بزرگتری انجام داد.
در همان سال، زمانی که هیئتمدیره اپنایآی به طور موقت سام آلتمن را برکنار کرد، ساتیا نادلا، مدیرعامل مایکروسافت، نقش مهمی در حمایت از آلتمن و بازگشت او به سمتش ایفا کرد. اما تا آوریل امسال، مایکروسافت و اپنایآی عملاً از یکدیگر فاصله گرفته بودند.
البته همکاری آنها هنوز به طور کامل پایان نیافته است، اما رابطه انحصاریای که چند سال پیش شکل گرفته بود، اکنون رسماً به همکاری غیرانحصاری تبدیل شده است.
نکته قابل توجه این است که این تغییر تنها چند هفته پس از انتشار گزارشی رخ داد که نشان میداد مایکروسافت در حال بررسی امکان شکایت از اپنایآی به دلیل نقض قرارداد همکاری میان ۲ شرکت است.
حالا نوبت اپل است
ماجرای اپل و اپنایآی دقیقاً مشابه داستان مایکروسافت نیست، اما شباهتهای زیادی با آن دارد. در سال ۲۰۲۴، اپل با قرار دادن ChatGPT در موقعیتی ممتاز روی آیفون، عملاً جایگاه اپنایآی را بهعنوان رهبر صنعت هوش مصنوعی تأیید کرد.
اپل کاربران خود را مجبور به استفاده از ChatGPT نکرد، اما این چتبات را در نرمافزار آیفون ادغام کرد؛ اقدامی که در آن زمان برای هر ۲ شرکت یک همکاری برد-برد به نظر میرسید. اما سپس اپنایآی شرکت جانی آیو را با مبلغ ۶/۵ میلیارد دلار خرید و برنامههای خود برای ساخت یک دستگاه مرموز را اعلام کرد؛ محصولی که قرار نبود آیفون باشد، اما آشکارا به نوعی رقیب آیفون محسوب میشد.
تا ماه مه امسال، مدیران اپنایآی آنقدر از همکاری با اپل ناراضی شده بودند که طبق گزارشها حتی بررسی میکردند آیا میتوانند اپل را به دلیل نقض قرارداد تحت پیگرد قانونی قرار دهند یا نه. اما در نهایت این اپل بود که علیه اپنایآی شکایت کرد.
آیا اپل حق دارد؟
در حال حاضر تنها روایت موجود، روایت اولیه اپل است و هنوز پاسخ کامل اپنایآی منتشر نشده است. علاوه بر این، بسیاری از ناظران، چندان همدلانه به موضع اپل نگاه نمیکنند. البته این نخستین بار نیست که اپل برای مقابله با رقیبی احتمالی برای آیفون به دادگاه متوسل میشود. برای مثال، این شرکت در سال ۲۰۱۱ سامسونگ را به دلیل ساخت گوشیهایی مبتنی بر اندروید ــ که رقیب مستقیم آیفون محسوب میشدند ــ تحت پیگرد قرار داد.
یک الگوی نگرانکننده
نکته قابل توجه این است که اپنایآی ۲ اتحاد بسیار مهم با غولهای فناوری برقرار کرده و هر ۲ رابطه در نهایت با تنش و اختلاف پایان یافتهاند. از یک منظر میتوان گفت درگیری با غولهای فناوری شاید نشانه آن باشد که خودت نیز به یک غول فناوری تبدیل شدهای.
همه این شرکتها منابع عظیمی در اختیار دارند و پروندههای حقوقی میان آنها معمولاً سالها طول میکشد. تا زمانی که این دعواها به نتیجه برسند، ممکن است جهان فناوری آنقدر تغییر کرده باشد که موضوع اصلی دعوا اهمیت خود را از دست بدهد.
میتوان گفت همه طرفها شرکتهای بزرگی هستند و بهتر است به مسیر خود ادامه دهند.
انتهای پیام/
نظر شما