Most people are learning how to use artificial intelligence. Far fewer are learning how to understand it.
That distinction may become one of the most valuable advantages in the modern digital economy. Knowing how to ask an AI chatbot a good question is useful, but understanding how AI systems retrieve information, coordinate tools, preserve memory, evaluate their own work, and recover from mistakes opens an entirely different set of possibilities.
Consider what happens when two people use the same AI model to build a product. One writes increasingly elaborate prompts and hopes for the best. The other understands how to connect the model to reliable data, give it access to carefully selected tools, test its outputs, and design a workflow that catches mistakes before they become expensive. Even if both begin with identical technology, their results can be remarkably different.
The gap is not necessarily intelligence. It is systems thinking.
Artificial intelligence is developing a vocabulary that reflects this transition. Some of the most important concepts are no longer about generating text or recognizing patterns in isolation. They concern the engineering decisions that turn a capable model into something dependable, useful, and commercially valuable.
This article explores ten such concepts through the problems they solve, the limitations that matter, and the opportunities they create. Rather than treating technical terminology as a collection of fashionable expressions, we will examine how these ideas fit together and why understanding them can change the way you approach AI.
1. Agentic AI — The Difference Between Giving Advice and Getting Things Done
Imagine asking an AI assistant to help you launch an online store. A conventional chatbot might suggest a business name, write product descriptions, and explain how to create a marketing strategy. You would still need to open your applications, organize the files, perform the research, and carry out each step yourself.
An agentic AI system can go further. When equipped with appropriate tools and permissions, it can break the objective into smaller tasks, execute selected actions, examine the results, and adjust its approach as the work progresses.
This is the central idea behind agentic AI: moving from producing an answer toward pursuing a goal through a sequence of actions.
The distinction sounds simple, but it has important consequences. An agent working on a research project might search for relevant sources, extract information, compare findings, and prepare a report. A coding agent might inspect a software project, modify a file, run tests, and attempt a correction when a test fails.
The system is no longer merely generating instructions for a human to follow. It is participating in the execution of the task.
However, autonomy comes with a trade-off. Every additional action introduces another opportunity for error. An agent can misunderstand a goal, rely on outdated information, or continue executing an unsuitable plan. Giving it access to more tools does not automatically make it more capable or trustworthy.
The strongest implementations therefore combine autonomy with boundaries. They define what success means, limit the actions the agent can perform, verify important results, and require human approval when an operation could have significant consequences.
The opportunity most people overlook: You do not need to build a completely autonomous digital employee to benefit from agentic AI. Start with a repetitive workflow that involves several predictable steps, such as organizing customer inquiries, preparing reports, or gathering information for a proposal. Automating a narrow, well-defined process is often more practical than attempting to automate an entire business.
The important question is not whether AI can perform a task without human involvement. It is whether it can reduce the total work required while maintaining an acceptable level of accuracy and control.
2. Model Routing – Why the Smartest AI System Does Not Always Use Its Smartest Model
One of the most expensive mistakes in AI development is assuming that every question deserves the most powerful model available.
Imagine a customer-support platform receiving ten thousand requests in a single day. Some customers want to know the company’s opening hours. Others need help interpreting a complicated invoice, resolving a technical issue, or understanding an unusual account problem. Sending every request to the same expensive model may work, but it is rarely the most efficient design.
Model routing offers a more intelligent alternative. It directs different requests to different models or processing paths according to factors such as complexity, cost, latency, and required accuracy.
A simple question might go to a smaller, faster model. A request requiring complex reasoning could be directed to a more capable model. A task involving exact financial calculations might be handled by conventional code, with an AI model interpreting the result rather than performing the arithmetic itself.
The real value lies in matching the method to the problem.
Think of a hospital where every patient does not require the same specialist or diagnostic procedure. Resources are allocated according to the nature and urgency of the case. Model routing applies a related principle to AI systems, although its decisions are based on computational requirements rather than medical judgment.
There is an important engineering challenge, however. The routing mechanism must recognize which tasks are difficult. If it sends a subtle, high-stakes question to a model that cannot handle it, the system may save money while quietly reducing quality. A sensible implementation therefore needs evaluation, fallback mechanisms, and clear criteria for escalating difficult requests.
For developers, model routing introduces an opportunity to optimize an AI product without training a new foundation model. A carefully designed system can combine several existing models, each selected for the work it handles best.
For businesses, this can improve operating costs and response times. For users, it can mean faster answers to routine questions without sacrificing the resources needed for demanding tasks.
The deeper lesson is that the best AI architecture is not necessarily the one with the strongest model. It is the one that allocates intelligence where it creates the greatest value.
3. Evals — How to Know Whether Your AI Is Actually Getting Better
Suppose you modify an AI assistant’s instructions and its answers suddenly sound more professional. You test three examples, like the results, and deploy the change. A week later, customers begin receiving incorrect answers to questions the previous version handled correctly.
What went wrong?
The problem is that a few impressive examples do not establish that a system has improved overall. An AI model can become better at one type of request while becoming worse at another. A change that improves writing quality might reduce factual precision or cause the system to ignore important constraints.
This is why AI developers increasingly rely on evaluations, commonly called evals.
An eval is a structured way to measure how well an AI system performs against defined criteria. Depending on the application, those criteria might include factual accuracy, instruction following, tool selection, refusal behavior, response latency, or successful completion of a workflow.
Imagine developing an AI assistant that generates product descriptions for an online store. Rather than judging every output from scratch, you could create a test set containing representative products, detailed specifications, ambiguous requests, and prohibited claims. Each version of the system would be evaluated against the same cases, allowing you to compare its behavior over time.
Some criteria can be measured automatically. Others require expert review or human judgment. A useful evaluation strategy combines both, because a response may satisfy a simple automated check while remaining misleading, awkward, or unsuitable for its intended audience.
The most important idea is that evaluation should not happen only before launch. It should be part of the development process itself. Every significant change to a prompt, model, retrieval system, or tool workflow can introduce new failure modes.
There is also a distinction between benchmark performance and real-world usefulness. A model might achieve an impressive score on a public benchmark yet perform poorly on the specific documents, customers, languages, or edge cases that matter to your business.
For anyone building AI products, evals provide a practical competitive advantage. They turn vague impressions such as “the new version feels better” into evidence about what has improved, what has deteriorated, and where further work is necessary.
The next time an AI product claims that its latest version is dramatically better, ask a simple question: better at what, measured how, and under which conditions?
That is the beginning of a serious technical conversation.
4. AI Observability — Seeing What Happens Inside an AI Workflow
Traditional software can be difficult to debug, but AI systems introduce an additional complication: the same request may produce different outputs depending on the model, the available context, the retrieved information, and the sequence of tool calls.
When a complicated AI workflow fails, looking only at its final response may reveal very little about the cause.
AI observability addresses this problem by collecting and examining information about how a system behaves while it runs. Depending on the implementation, this may include the sequence of model calls, retrieved documents, tool inputs and outputs, latency, token usage, errors, and evaluation results.
Consider an AI research assistant that produces an inaccurate report. Without observability, a developer may have to guess whether the model misunderstood the question, retrieved irrelevant sources, misinterpreted a table, or incorrectly summarized a tool’s output.
With an appropriately instrumented system, the developer can trace the workflow and investigate the stage where the failure occurred.
Perhaps the search component retrieved an outdated document. Perhaps a numerical calculation was correct, but the language model described it incorrectly. Perhaps the system exceeded a time limit and continued with incomplete information. Each problem requires a different solution, and observability helps distinguish between them.
It is useful to understand how this differs from evaluation. Evals measure performance against defined tests or criteria. Observability helps developers understand the behavior of the running system, including unexpected failures that were not anticipated during testing. The two complement each other.
For businesses deploying AI at scale, observability can also reveal operational problems. A system may become slower because it repeatedly calls a tool, more expensive because it sends excessive context to a model, or less accurate because a data source has changed.
Nevertheless, collecting more data is not automatically beneficial. Logs may contain sensitive information, and excessive monitoring can create privacy and storage concerns. Good observability requires selecting useful signals, protecting confidential data, and establishing clear retention policies.
The practical opportunity is straightforward: if you want to build AI that can be maintained rather than merely demonstrated, you need a way to understand what it is doing. A system that fails transparently and provides enough information to diagnose the problem is generally easier to improve than one that produces a polished answer while hiding the process behind it.
5. Guardrails — Designing AI Boundaries That Software Can Enforce
AI systems are increasingly being connected to email accounts, databases, file storage, customer records, and business applications. That creates a difficult question: how do you allow a model to be useful without allowing it to do things it should never do?
Guardrails are mechanisms designed to constrain or validate an AI system’s behavior. They may include input checks, output validation, policy filters, permission restrictions, structured schemas, and approval requirements for sensitive actions.
Imagine an AI assistant that helps employees prepare expense reports. The model can interpret receipts, classify expenses, and draft explanations. But it should not be allowed to approve its own submissions, modify financial records without authorization, or invent missing transaction details simply to complete a form.
A well-designed system separates these responsibilities. The model can assist with interpretation, while conventional software enforces monetary limits, validates required fields, and checks the employee’s permissions. An authorized person can approve exceptions.
This separation is important because a language model’s willingness to follow an instruction is not a reliable security mechanism. Asking the model to behave responsibly is useful, but critical restrictions should be enforced outside the model wherever possible.
Guardrails can operate at different stages. Input controls may block unsupported requests or detect suspicious content. Process-level controls can restrict which tools are available. Output checks can verify that a response follows a required format or does not contain prohibited material. Human approval can serve as a final checkpoint before consequential actions are executed.
There is a balance to strike. Overly restrictive guardrails can prevent legitimate work, frustrate users, and make an application unnecessarily difficult to use. Weak controls can expose the organization to data leaks, unauthorized actions, and unreliable outputs.
The right approach begins with an assessment of the task’s risks. A creative brainstorming assistant does not require the same controls as a system that handles medical records or initiates financial transactions.
For developers and business owners, guardrails are not merely a compliance feature. They help determine which tasks an AI system can safely handle in the first place. The more clearly you define what a system may do, what it must verify, and when it must stop, the easier it becomes to deploy it responsibly.
6. Structured Outputs — Making AI Responses Usable by Real Software
A human can usually interpret an answer even when its format is inconsistent. Software is far less forgiving.
Suppose you are building an application that uses AI to extract information from invoices. You need the supplier’s name, invoice date, currency, tax amount, and total. If the model returns a paragraph containing those details in unpredictable wording, your application must somehow determine which value belongs in which field.
Structured outputs address this challenge by constraining an AI response to a predefined format, often using a schema such as JSON.
Instead of asking a model to describe an invoice however it chooses, a developer can specify the required fields and expected data types. The system can then request a response containing the supplier name as a string, the total as a number, and the invoice date in a defined format.
The advantage becomes clearer when the AI output must be passed to another program. A customer-support assistant might return a category, a priority level, and a suggested next action. A product-catalog tool might return a product name, a description, and a set of attributes. A scheduling assistant might return a start time and an end time that another component can validate.
In each case, the response becomes easier for software to consume because its structure is predictable.
However, there is an important distinction between valid structure and correct content. A model can return perfectly valid JSON containing the wrong invoice total. A field can contain the expected data type while representing an incorrect fact. Schema validation ensures that the output follows the required format; it does not prove that the information is true.
A robust implementation therefore combines structured outputs with semantic validation. Dates can be checked for plausibility, numerical totals can be recalculated using conventional code, and extracted details can be compared against the original document.
This concept is particularly valuable for web developers and entrepreneurs because it makes AI easier to integrate into existing applications. Instead of treating the model as a conversational feature that produces text, you can use it as a component in a larger software workflow.
The larger principle is simple: if an AI response is supposed to trigger a software action, its format should be designed for that action from the beginning.
7. Model Distillation — Teaching a Smaller Model to Do a Specific Job Well
The most capable AI models can perform an impressive range of tasks, but their capabilities may come with higher computational costs, greater latency, or infrastructure requirements that are unnecessary for simpler applications.
Model distillation offers a way to transfer useful behavior from a larger or more capable model into a smaller model. In a typical setup, a teacher model provides training signals or examples that help a student model learn to perform a particular task.
Imagine a company that uses a powerful language model to classify incoming customer-support messages. The company may eventually accumulate enough high-quality examples to train a smaller model to perform that specific classification task. If the smaller model reaches the required level of accuracy, it may be able to handle routine requests more cheaply and quickly.
The student does not need to reproduce every capability of the teacher. It needs to perform well on the tasks for which it was designed.
This distinction matters because distillation is not the same as compressing a model into a smaller file, nor does it guarantee that a smaller model will match the teacher’s performance. The outcome depends on the training method, the quality of the examples, the task’s difficulty, and the breadth of situations the student must handle.
There is also a risk of transferring errors. If the teacher consistently produces incorrect classifications or misleading answers, those patterns may appear in the student model’s training data. Developers therefore need to validate the teacher’s outputs and test the resulting model independently.
For businesses, distillation can make specialized AI applications more economically practical. A smaller model might run on less expensive hardware, respond more quickly, or operate in an environment where sending data to a large external service is undesirable.
For developers, the opportunity is to identify tasks that do not require a general-purpose model’s full range of capabilities. Classification, extraction, routing, and certain constrained generation tasks may be candidates, depending on their accuracy requirements.
The strategic insight is that the most valuable model for a particular business is not necessarily the largest or most powerful one. It may be a smaller, specialized model that performs the required task reliably at a fraction of the operational cost.
8. Quantization — Reducing the Cost of Running AI Models
There is another way to make AI systems more efficient without necessarily changing what they are designed to do: reduce the precision used to represent their numerical parameters and computations.
This technique is called quantization.
AI models perform enormous numbers of mathematical operations. Their parameters and intermediate values are represented numerically, often using floating-point formats with different levels of precision. Quantization allows some of these values to be represented using lower-precision formats, which can reduce memory requirements and sometimes improve inference speed.
Why does that matter? Running a large model requires sufficient memory to store its parameters and additional resources to process each request. If quantization reduces the model’s memory footprint, it may become possible to run the model on less expensive hardware or deploy it in an environment where the full-precision version would be impractical.
Imagine a developer who wants to run a language model locally on a personal computer. The original model may exceed the available memory, while a quantized version could fit within the machine’s limits. That can make experimentation, offline use, and privacy-conscious applications more accessible.
However, quantization involves trade-offs. Lower precision can affect numerical accuracy and model quality, and the size of the performance change depends on the model, the quantization method, the task, and the hardware. Some quantized configurations offer substantial practical benefits with limited quality degradation; others can noticeably reduce performance.
It is also important to distinguish quantization from distillation. Quantization changes how a model’s numerical values are represented or processed. Distillation trains a student model to learn useful behavior from a teacher or another source of training signals. The two techniques can be used together, but they solve different problems.
For AI developers, quantization can be an important step toward making capable models more affordable to deploy. For users, it helps explain why running a model locally does not always require the same resources as operating its original full-precision version.
The broader lesson is that AI progress depends not only on increasing model capabilities. Making existing capabilities cheaper, faster, and more accessible can be just as consequential.
9. Computer Use — When AI Interacts With Interfaces Instead of Just Describing Them
Most software is designed for people to interact with through buttons, menus, text fields, and visual interfaces. Traditionally, AI assistants could explain how to use those interfaces, but the person still had to perform the clicks and keyboard actions.
Computer-use capabilities allow certain AI systems to interact with graphical interfaces directly. Depending on the implementation, an agent may inspect a screen, identify a relevant control, click a button, enter text, navigate between windows, and examine the resulting screen to determine what to do next.
Consider a repetitive administrative task that requires opening a browser, finding a particular record, copying several fields into a spreadsheet, and preparing a summary. A computer-use agent may be able to perform portions of that workflow by interacting with the same interface a human employee would use.
This is especially interesting when an application does not provide a convenient API or direct integration. Instead of requiring every action to be exposed through a custom interface, the system can interact with the graphical controls already available.
Yet computer use is not simply a matter of teaching an AI to click accurately. Graphical interfaces change, elements can move, pop-ups can interrupt a workflow, and similar-looking buttons can perform very different actions. A system may click the wrong control, misread a status message, or fail to recognize that a previous action did not succeed.
There are also security implications. A computer-use agent may encounter private information, account settings, payment pages, or destructive operations. Developers must establish appropriate permissions and ensure that sensitive actions receive the necessary authorization.
This is where computer use connects to several earlier concepts. An agent needs a harness to coordinate its actions, context engineering to supply the relevant objective and state, observability to diagnose failures, and guardrails to restrict dangerous operations. Evals can then measure whether the complete workflow succeeds reliably.
For entrepreneurs, the opportunity lies in finding tasks that people repeatedly perform through existing interfaces. However, graphical automation should not automatically be preferred over direct APIs. When a stable, supported integration is available, it is often more reliable than navigating a changing interface.
The real value of computer use is its ability to extend automation into environments that would otherwise require constant human interaction.
10. AI Memory — Helping Systems Preserve the Right Information Over Time
A conversation can become frustrating when an assistant repeatedly asks for information that was already provided. In more complicated workflows, the problem becomes much greater: an AI system may need to preserve project decisions, user preferences, previous actions, and unresolved questions across multiple interactions.
AI memory refers to mechanisms that allow a system to retain and retrieve relevant information beyond the immediate input context. The exact implementation varies considerably. It may involve stored summaries, databases, searchable records, user-approved preferences, or task-specific state maintained by an application.
Consider an AI assistant supporting a web-development project. During the first session, the user establishes the site’s design system, preferred technology stack, and naming conventions. During later sessions, the assistant may need to retrieve those decisions to avoid proposing an incompatible implementation.
Without a suitable memory mechanism, the system may have to rely on whatever information remains in its current context. With memory, it can potentially retrieve the relevant decisions when the project resumes.
But memory is not simply about retaining everything. Storing too much information creates unnecessary complexity, while storing the wrong information can be worse than remembering nothing. Old assumptions may become outdated, temporary details may be mistaken for permanent preferences, and irrelevant records may be retrieved in response to a new question.
Good memory design therefore requires decisions about what to retain, how long to retain it, when to update it, and how to determine whether it is relevant to the current task. It also requires appropriate privacy controls and a way to correct inaccurate or outdated information.
There is a useful distinction between a model’s context window and its memory system. The context window contains the information available to the model during a particular processing step. A memory system stores information that can be retrieved across interactions or stages of work. The two can work together, but they are not interchangeable.
For developers, memory can make AI products more useful in ongoing relationships with customers or in projects that span multiple sessions. Yet its value depends on relevance, accuracy, and control rather than the volume of information retained.
The most effective AI memory is not the system that remembers the most. It is the system that retrieves the right information when it matters, recognizes when that information has changed, and respects the user’s control over what is retained.
The Real Advantage Is Understanding How the Pieces Fit Together
The ten concepts discussed here reveal something important about the direction of artificial intelligence. The next stage of progress is not simply about creating models that can generate more convincing answers. It is about building systems that can select the right capabilities, interact with existing software, preserve useful information, measure their own performance, and operate within clearly defined boundaries.
Agentic AI gives systems a way to pursue goals. Model routing helps allocate computational resources. Evals provide evidence about performance, while observability helps developers understand what happens when a system runs. Guardrails establish boundaries, and structured outputs make AI responses easier for conventional software to use.
Distillation and quantization address different aspects of efficiency. Computer use extends automation into graphical interfaces, while AI memory helps preserve relevant information across interactions.
Individually, these concepts solve different problems. Together, they offer a more complete picture of how useful AI applications are engineered.
Here is where I believe the greatest opportunity lies: you do not need to invent a new AI model to create something valuable with AI. You need to understand a real problem well enough to assemble the right capabilities around it.
A web developer could combine model routing, structured outputs, and computer use to automate a repetitive administrative process. A data scientist could build a research assistant using retrieval, evaluations, and observability. A small business owner could use an agent to coordinate routine operations while retaining human approval over consequential decisions.
The technology becomes commercially meaningful when it solves a problem people genuinely care about. A complicated architecture is not automatically better than a simple one, and an autonomous system is not automatically more useful than a carefully controlled workflow.
The real skill is knowing which technology to use, which problems it can solve, and which risks must be managed before it is trusted with real work.
So, the next time you encounter a new AI product, look beyond the impressive demonstration. Ask how it handles difficult requests, how it verifies its results, what happens when a tool fails, and whether its performance has been measured against realistic tasks. Those questions will help you distinguish genuine engineering progress from marketing hype.
And now I am curious about your perspective. Which of these ten concepts do you think will create the greatest opportunities over the next few years? Would you rather build an autonomous AI agent, develop a specialized model, or create a complete AI workflow that solves a specific business problem?
Share your thoughts in the comments. The most interesting opportunities often emerge when technical knowledge meets problems people have struggled with for years.
دليل الذكاء الاصطناعي الجديد: 10 مفاهيم تُميّز المستخدمين المطلعين عن غيرهم
يتعلم معظم الناس كيفية استخدام الذكاء الاصطناعي لكن قلة قليلة منهم فقط يتعلمون كيفية فهمه
وقد يصبح هذا التمييز أحد أكثر المزايا قيمة في الاقتصاد الرقمي الحديث، فمعرفة كيفية طرح سؤال جيد على روبوت محادثة ذكي أمر مفيد لكن فهم كيفية قيام أنظمة الذكاء الاصطناعي باسترجاع المعلومات وتنسيق الأدوات والاحتفاظ بالذاكرة وتقييم أدائها الذاتي وتصحيح أخطائها يفتح آفاقاً جديدة تماماً من الإمكانيات تأمل ما يحدث عندما يستخدم شخصان نموذج الذكاء الاصطناعي ذاته لبناء منتج ما
(prompts) إذ يكتفي أحدهما بكتابة أوامر
أكثر تفصيلاً وتطوراً على أمل الحصول على أفضل النتائج، بينما يدرك الآخر كيفية ربط النموذج ببيانات موثوقة ومنحه صلاحية الوصول إلى أدوات مختارة بعناية واختبار مخرجاته وتصميم سير عمل يكتشف الأخطاء قبل أن تتحول إلى مشكلات مكلفة، ورغم أن كلاً منهما بدأ باستخدام التقنية ذاتها إلا أن النتائج قد تختلف بشكل جذري لا يكمن الفارق بالضرورة في مستوى الذكاء
(systems thinking) “بل في “التفكير النظمي
لقد بدأ الذكاء الاصطناعي في تطوير مصطلحات تعكس هذا التحول، فلم تعد المفاهيم الأكثر أهمية مقتصرة على توليد النصوص أو التعرف على الأنماط بشكل منعزل بل أصبحت تتعلق بالقرارات الهندسية التي تحوّل نموذجاً ذكياً إلى أداة يمكن الاعتماد عليها وتتسم بالفائدة والقيمة التجارية
يستعرض هذا المقال عشرة من هذه المفاهيم مسلطاً الضوء على المشكلات التي تعالجها والقيود المهمة المتعلقة بها والفرص التي تتيحها، وبدلاً من التعامل مع المصطلحات التقنية كمجرد تعبيرات دارجة أو “موضة” عابرة سنبحث في كيفية ترابط هذه الأفكار ولماذا يمكن لفهمها أن يغير طريقتك في التعامل مع الذكاء الاصطناعي
1. (Agentic AI) “الذكاء الاصطناعي “الوكيل
الفرق بين تقديم النصيحة وإنجاز المهام
تخيل أنك طلبت من مساعد ذكاء اصطناعي مساعدتك في إطلاق متجر إلكتروني، فقد يقترح عليك روبوت المحادثة التقليدي اسماً للمتجر ويكتب أوصافاً للمنتجات ويشرح كيفية وضع استراتيجية تسويقية لكن سيظل عليك أنت فتح التطبيقات وتنظيم الملفات وإجراء البحوث وتنفيذ كل خطوة بنفسك
(Agentic AI) “أما نظام الذكاء الاصطناعي “الوكيل
فيمكنه تجاوز ذلك، فإذا زُوِّد بالأدوات والصلاحيات المناسبة يصبح قادراً على تقسيم الهدف الكبير إلى مهام أصغر وتنفيذ إجراءات محددة وفحص النتائج وتعديل نهجه في العمل مع تقدمه في تنفيذ المهام، تلك هي الفكرة الجوهرية الكامنة وراء “الذكاء الاصطناعي القائم على الوكالة” : الانتقال من مجرد تقديم إجابة إلى السعي نحو تحقيق هدفٍ ما عبر سلسلة من الإجراءات
قد يبدو هذا التمييز بسيطاً، لكن تترتب عليه نتائج بالغة الأهمية، فمثلاً يمكن لوكيل ذكاء اصطناعي يعمل على مشروع بحثي أن يبحث عن المصادر ذات الصلة ويستخرج المعلومات ويقارن بين النتائج ثم يُعدّ تقريراً، وبالمثل يمكن لوكيل متخصص في البرمجة فحص مشروع برمجي وتعديل ملف وإجراء اختبارات ومحاولة تصحيح الأخطاء في حال فشل أحد الاختبارات
هنا لا يكتفي النظام بتقديم تعليمات ليتبعها الإنسان بل يصبح مشاركاً فعلياً في تنفيذ المهمة
غير أن هذه الاستقلالية تأتي مصحوبة بمقايضة، فكل إجراء إضافي يفتح باباً جديداً لاحتمالية وقوع خطأ، فقد يسيء الوكيل فهم الهدف أو يعتمد على معلومات قديمة أو يستمر في تنفيذ خطة غير ملائمة، كما أن منح الوكيل صلاحية الوصول إلى المزيد من الأدوات لا يعني بالضرورة جعله أكثر كفاءة أو موثوقية
لذا فإن أفضل نماذج الذكاء الاصطناعي القائم على الوكالة هي تلك التي تجمع بين الاستقلالية ووضع حدود واضحة، فهي تحدد معايير النجاح وتقيّد الإجراءات المتاحة للوكيل وتتحقق من النتائج الجوهرية وتتطلب موافقة بشرية في الحالات التي قد تترتب عليها عواقب وخيمة
وهناك فرصة يغفل عنها الكثيرون: ليس من الضروري بناء “موظف رقمي” مستقل تماماً للاستفادة من هذا النوع من الذكاء الاصطناعي، ابدأ بسير عمل متكرر يتضمن خطوات واضحة ومتوقعة مثل تنظيم استفسارات العملاء أو إعداد التقارير أو جمع المعلومات اللازمة لمقترح عمل، فغالباً ما يكون أتمتة عملية محددة وضيقة النطاق أكثر جدوى وعملية من محاولة أتمتة منظومة العمل بأكملها
إن السؤال الجوهري ليس ما إذا كان الذكاء الاصطناعي قادراً على إنجاز مهمة ما دون تدخل بشري بل ما إذا كان قادراً على تقليل حجم العمل الإجمالي المطلوب مع الحفاظ في الوقت ذاته على مستوى مقبول من الدقة والتحكم
2. (Model Routing) توجيه النماذج
لماذا لا يستخدم أذكى أنظمة الذكاء الاصطناعي دائماً أقوى نماذجه؟
من أكثر الأخطاء تكلفةً في تطوير الذكاء الاصطناعي افتراضُ أن كل سؤال يستحق استخدام أقوى نموذج متاح
تخيل منصةً لخدمة العملاء تتلقى عشرة آلاف طلب في يوم واحد، فبعض العملاء يرغبون في معرفة ساعات عمل الشركة بينما يحتاج آخرون إلى المساعدة في فهم فاتورة معقدة أو حل مشكلة تقنية أو معالجة مسألة غير مألوفة في حساباتهم، قد ينجح توجيه جميع هذه الطلبات إلى النموذج ذاته (عالي التكلفة) لكنه نادراً ما يكون التصميم الأكثر كفاءة
يوفر “توجيه النماذج” بديلاً أكثر ذكاءً، إذ يعمل على توجيه الطلبات المختلفة إلى نماذج أو مسارات معالجة متنوعة بناءً على عوامل مثل درجة التعقيد والتكلفة وزمن الاستجابة ومستوى الدقة المطلوب
فالسؤال البسيط قد يُوجَّه إلى نموذج أصغر وأسرع، بينما يُحال الطلب الذي يتطلب استنتاجاً معقداً إلى نموذج أكثر قدرة، أما المهام التي تتطلب حسابات مالية دقيقة فقد يتولى تنفيذها كود برمجي تقليدي مع قيام نموذج الذكاء الاصطناعي بتفسير النتائج بدلاً من إجراء العمليات الحسابية بنفسه
تكمن القيمة الحقيقية في مواءمة الأسلوب المستخدم مع طبيعة المشكلة
فكّر في مستشفى لا يحتاج فيه كل مريض إلى نفس الاختصاصي أو الإجراء التشخيصي، إذ تُخصص الموارد وفقاً لطبيعة الحالة ومدى إلحاحها، يطبق “توجيه النماذج” مبدأً مشابهاً في أنظمة الذكاء الاصطناعي وإن كانت القرارات هنا تستند إلى المتطلبات الحسابية بدلاً من التقدير الطبي ومع ذلك ثمة تحدٍ هندسي مهم، إذ يجب على آلية التوجيه أن تكون قادرة على تمييز المهام الصعبة، فإذا أُرسل سؤال دقيق وعالي الأهمية إلى نموذج لا يمتلك القدرة على التعامل معه، فقد يوفر النظام المال لكنه في الوقت ذاته سيؤدي -بشكل خفي- إلى تراجع في جودة المخرجات، لذا يتطلب التنفيذ السليم
(fallback mechanisms) وجود آليات للتقييم وأخرى بديلة
ومعايير واضحة لتصعيد الطلبات المعقدة
بالنسبة للمطورين يتيح “توجيه النماذج” فرصةً لتحسين منتجات الذكاء الاصطناعي دون الحاجة إلى تدريب نموذج أساسي جديد، إذ يمكن لنظام مصمم بعناية أن يجمع بين عدة نماذج موجودة بالفعل بحيث يُختار كل منها للمهمة التي يؤديها بأفضل كفاءة
أما بالنسبة للشركات فيمكن لهذا النهج تحسين تكاليف التشغيل وتسريع أوقات الاستجابة، وبالنسبة للمستخدمين يعني ذلك الحصول على إجابات أسرع للأسئلة الروتينية دون استنزاف الموارد اللازمة للمهام الأكثر تعقيداً
والدرس الأعمق هنا هو أن أفضل بنية لنظام الذكاء الاصطناعي ليست بالضرورة تلك التي تعتمد على أقوى نموذج، بل هي البنية التي توظف الذكاء في المواضع التي تحقق أكبر قيمة ممكنة
3. (Evals) التقييمات
كيف تعرف ما إذا كان نظام الذكاء الاصطناعي الخاص بك يتحسن بالفعل؟
لنفترض أنك قمت بتعديل تعليمات مساعد ذكاء اصطناعي فأصبحت إجاباته تبدو أكثر احترافية، اختبرت ثلاثة أمثلة وأعجبتك النتائج فاعتمدت التغيير، وبعد أسبوع بدأ العملاء يتلقون إجابات خاطئة على أسئلة كان الإصدار السابق يجيب عليها بشكل صحيح
ما الخطأ الذي حدث؟
تكمن المشكلة في أن بضعة أمثلة مبهرة لا تعني بالضرورة أن النظام قد تحسن ككل، فقد يصبح نموذج الذكاء الاصطناعي أفضل في التعامل مع نوع معين من الطلبات بينما يزداد سوءاً في التعامل مع أنواع أخرى، فالتعديل الذي يحسن جودة الصياغة قد يؤدي إلى تراجع الدقة الواقعية أو يتسبب في تجاهل النظام لقيود مهمة ولهذا السبب يعتمد مطورو الذكاء الاصطناعي بشكل متزايد
(Evals) على ما يُعرف بـ “التقييمات”
التقييم هو وسيلة منظمة لقياس مدى كفاءة نظام الذكاء الاصطناعي وفقاً لمعايير محددة، وتختلف هذه المعايير باختلاف التطبيق، فقد تشمل الدقة الواقعية ومدى الالتزام بالتعليمات واختيار الأدوات المناسبة وسلوك الرفض وزمن الاستجابة أو إتمام سير العمل بنجاح
تخيل أنك تطور مساعد ذكاء اصطناعي لإنشاء أوصاف للمنتجات في متجر إلكتروني، بدلاً من تقييم كل مخرجات النظام بشكل منفصل في كل مرة، يمكنك إعداد مجموعة اختبار تضم منتجات نموذجية ومواصفات تفصيلية وطلبات غامضة وادعاءات محظورة، ومن خلال تقييم كل إصدار من النظام باستخدام نفس هذه الحالات ستتمكن من مقارنة أدائه وتطوره بمرور الوقت
يمكن قياس بعض المعايير تلقائياً، بينما يتطلب البعض الآخر مراجعة من قبل خبراء أو حكماً بشرياً، وتعتمد استراتيجية التقييم الفعالة على الجمع بين الأسلوبين، فقد تجتاز الاستجابة اختباراً آلياً بسيطاً لكنها تظل مضللة أو ركيكة أو غير مناسبة للجمهور المستهدف والنقطة الأهم هي أن التقييم لا ينبغي أن يقتصر على مرحلة ما قبل الإطلاق فحسب، بل يجب أن يكون جزءاً لا يتجزأ من عملية التطوير ذاتها
(Prompts) فأي تغيير جوهري في التعليمات
أو النموذج أو نظام استرجاع المعلومات أو سير عمل الأدوات قد يؤدي إلى ظهور أنماط جديدة من الإخفاقات
كما تجدر الإشارة إلى وجود فرق بين الأداء
(Benchmarks) في اختبارات القياس المعيارية
والفائدة الفعلية في الواقع العملي، فقد يحقق النموذج نتائج مبهرة في اختبارات قياسية عامة لكنه قد يقدم أداءً ضعيفاً عند التعامل مع وثائق محددة أو عملاء معينين أو لغات معينة أو حالات استثنائية بالغة الأهمية لنشاطك التجاري
بالنسبة لأي شخص يعمل على بناء منتجات تعتمد على الذكاء الاصطناعي، إذ توفر التقييمات ميزة تنافسية عملية وملموسة، فهي تحوّل الانطباعات الغامضة -مثل قول أحدهم “الإصدار الجديد يبدو أفضل”- إلى أدلة ملموسة حول جوانب التحسّن ومواطن التراجع والمجالات التي تتطلب مزيداً من العمل
في المرة القادمة التي يزعم فيها منتجٌ يعتمد على الذكاء الاصطناعي أن إصدارَه الأحدث أفضل بكثير اطرح سؤالاً بسيطاً: أفضل في ماذا؟ وكيف تم قياس ذلك؟ وفي ظل أي ظروف؟
هنا تبدأ مناقشة تقنية جادة
4. (AI Observability) قابلية الملاحظة في الذكاء الاصطناعي
فهم ما يحدث داخل سير عمل الذكاء الاصطناعي
قد تكون عملية تصحيح أخطاء البرمجيات التقليدية صعبة، لكن أنظمة الذكاء الاصطناعي تزيد من تعقيد الأمر، إذ يمكن للطلب نفسه أن يؤدي إلى مخرجات مختلفة بناءً على النموذج المستخدم والسياق المتاح والمعلومات المسترجعة وتسلسل استدعاء الأدوات
عندما يفشل سير عمل معقد للذكاء الاصطناعي فإن النظر إلى النتيجة النهائية وحدها قد لا يكشف الكثير عن السبب الجذري للفشل
(Observability) ” تعالج ” قابلية الملاحظة
هذه المشكلة من خلال جمع وفحص معلومات حول كيفية تصرف النظام أثناء تشغيله، وقد يشمل ذلك -حسب طبيعة التنفيذ- تسلسل استدعاءات النموذج والوثائق المسترجعة ومدخلات ومخرجات الأدوات
(Tokens) واستهلاك الرموز (Latency) وزمن الاستجابة
والأخطاء ونتائج التقييم
لنتخيل مساعداً بحثياً يعتمد على الذكاء الاصطناعي قدّم تقريراً غير دقيق، فبدون توفر قابلية الملاحظة قد يضطر المطور إلى التخمين: هل أساء النموذج فهم السؤال؟ أم استرجع مصادر غير ذات صلة؟ أم أخطأ في تفسير جدول بيانات؟ أم قدّم ملخصاً غير صحيح لمخرجات إحدى الأدوات؟
أما في حال وجود نظام مجهز بأدوات المراقبة المناسبة فيمكن للمطور تتبع سير العمل وتحديد المرحلة التي وقع فيها الخطأ
ربما استرجع مكون البحث وثيقةً قديمة أو ربما كانت الحسابات الرقمية صحيحة لكن النموذج اللغوي وصفها بشكل خاطئ أو ربما تجاوز النظام حداً زمنياً معيناً فتابع العمل بمعلومات غير مكتملة، تتطلب كل مشكلة من هذه المشكلات حلاً مختلفاً وتساعد قابلية الملاحظة في التمييز بينها من المفيد هنا توضيح الفرق بين
(Evaluation) ” قابلية الملاحظة ” و” التقييم “
فالتقييم يقيس الأداء بناءً على اختبارات أو معايير محددة بينما تساعد قابلية الملاحظة المطورين على فهم سلوك النظام أثناء تشغيله بما في ذلك الإخفاقات غير المتوقعة التي لم تظهر أثناء مرحلة الاختبار، وهما بذلك يكملان بعضهما البعض
بالنسبة للشركات التي تنشر أنظمة الذكاء الاصطناعي على نطاق واسع يمكن لقابلية الملاحظة أيضاً الكشف عن مشكلات تشغيلية، فقد يصبح النظام أبطأ بسبب الاستدعاء المتكرر لأداة معينة أو أكثر تكلفة بسبب إرسال سياق مفرط إلى النموذج أو أقل دقة نتيجة تغير في أحد مصادر البيانات ومع ذلك فإن جمع المزيد من البيانات ليس مفيداً بالضرورة
على معلومات حساسة (Logs) فقد تحتوي السجلات
كما أن المراقبة المفرطة قد تثير مخاوف تتعلق بالخصوصية ومساحات التخزين، لذا تتطلب قابلية الملاحظة الفعالة اختيار المؤشرات المفيدة وحماية البيانات السرية ووضع سياسات واضحة للاحتفاظ بالبيانات
تكمن الفائدة العملية في أمر بسيط: إذا كنت ترغب في بناء نظام ذكاء اصطناعي قابل للصيانة -وليس مجرد نموذج للعرض- فأنت بحاجة إلى وسيلة لفهم ما يفعله هذا النظام فعلياً، إن النظام الذي يفشل بطريقة شفافة ويوفر معلومات كافية لتشخيص المشكلة، يكون -بشكل عام- أسهل في التطوير من نظامٍ يقدم إجابةً مُتقنةً مع إخفاء العملية التي أدت إليها
5. حواجز الحماية – تصميم حدود الذكاء الاصطناعي التي يمكن للبرامج فرضها
يتم ربط أنظمة الذكاء الاصطناعي بشكل متزايد بحسابات البريد الإلكتروني وقواعد البيانات وتخزين الملفات وسجلات العملاء وتطبيقات الأعمال، وهذا يخلق سؤالاً صعباً: كيف تسمح للنموذج بأن يكون مفيداً دون السماح له بالقيام بأشياء لا ينبغي له فعلها أبداً؟
حواجز الحماية هي آليات مصممة لتقييد سلوك نظام الذكاء الاصطناعي أو التحقق من صحته، وقد تتضمن عمليات فحص الإدخال والتحقق من صحة المخرجات ومرشحات السياسة وقيود الأذونات والمخططات المنظمة ومتطلبات الموافقة على الإجراءات الحساسة
تخيل مساعد الذكاء الاصطناعي الذي يساعد الموظفين على إعداد تقارير النفقات، يمكن للنموذج تفسير الإيصالات وتصنيف النفقات وصياغة التفسيرات، ولكن لا ينبغي السماح لها بالموافقة على طلباتها الخاصة أو تعديل السجلات المالية دون إذن أو اختراع تفاصيل المعاملات المفقودة لمجرد إكمال نموذج
ويفصل النظام المصمم جيداً بين هذه المسؤوليات، يمكن أن يساعد النموذج في الترجمة الفورية بينما تفرض البرامج التقليدية حدوداً مالية وتتحقق من صحة الحقول المطلوبة وتتحقق من أذونات الموظف، يمكن للشخص المخول الموافقة على الاستثناءات
يعد هذا الفصل مهماً لأن رغبة النموذج اللغوي في اتباع التعليمات ليست آلية أمنية موثوقة، إن مطالبة النموذج بالتصرف بمسؤولية أمر مفيد ولكن ينبغي فرض القيود الحاسمة خارج النموذج حيثما أمكن ذلك
يمكن أن تعمل الدرابزين في مراحل مختلفة، فقد تمنع عناصر التحكم في الإدخال الطلبات غير المدعومة أو تكتشف المحتوى المشبوه، يمكن لعناصر التحكم على مستوى العملية تقييد الأدوات المتوفرة، ويمكن لعمليات فحص المخرجات التحقق من أن الاستجابة تتبع التنسيق المطلوب أو لا تحتوي على مواد محظورة، يمكن أن تكون الموافقة البشرية بمثابة نقطة تفتيش نهائية قبل تنفيذ الإجراءات اللاحقة
هناك توازن لتحقيقه، يمكن أن تؤدي حواجز الحماية المقيدة بشكل مفرط إلى منع العمل المشروع وإحباط المستخدمين وجعل استخدام التطبيق صعباً بلا داع، يمكن أن تؤدي الضوابط الضعيفة إلى تعريض المؤسسة لتسرب البيانات والإجراءات غير المصرح بها والمخرجات غير الموثوقة
يبدأ النهج الصحيح بتقييم مخاطر المهمة، لا يتطلب مساعد العصف الذهني الإبداعي نفس الضوابط التي يتطلبها النظام الذي يتعامل مع السجلات الطبية أو يبدأ المعاملات المالية
بالنسبة للمطورين وأصحاب الأعمال لا تعد حواجز الحماية مجرد ميزة امتثال، فهي تساعد في تحديد المهام التي يمكن لنظام الذكاء الاصطناعي التعامل معها بأمان في المقام الأول، كلما حددت بشكل أكثر وضوحاً ما يمكن أن يفعله النظام وما يجب عليه التحقق منه ومتى يجب أن يتوقف، فأصبح من الأسهل نشره بشكل مسؤول
6. (Structured Outputs) المخرجات المهيكلة
جعل استجابات الذكاء الاصطناعي قابلة للاستخدام من قِبل البرمجيات
يمكن للبشر عادةً فهم الإجابة حتى وإن كان تنسيقها غير متسق أما البرمجيات فهي أقل مرونة بكثير في هذا الجانب
لنفترض أنك تبني تطبيقاً يستخدم الذكاء الاصطناعي لاستخراج معلومات من الفواتير، حيث تحتاج إلى اسم المورد وتاريخ الفاتورة، والعملة وقيمة الضريبة والمبلغ الإجمالي، إذا قدّم النموذج هذه التفاصيل في فقرة نصية بصياغة غير متوقعة فسيواجه تطبيقك صعوبة في تحديد القيمة المناسبة لكل حقل تعالج “المخرجات المهيكلة” هذا التحدي من خلال إلزام استجابة الذكاء الاصطناعي باتباع تنسيق محدد مسبقاً غالباً
JSON مثل صيغة (Schema) باستخدام مخطط بيانات
بدلاً من مطالبة النموذج بوصف الفاتورة بأسلوبه الخاص يمكن للمطور تحديد الحقول المطلوبة وأنواع البيانات المتوقعة، وبذلك يطلب النظام استجابة
(String) تتضمن اسم المورد كنص
(Number) والمبلغ الإجمالي كرقم
وتاريخ الفاتورة بتنسيق محدد
تتضح هذه الميزة بشكل أكبر عندما يتطلب الأمر تمرير مخرجات الذكاء الاصطناعي إلى برنامج آخر، فعلى سبيل المثال قد يقدّم مساعد دعم العملاء تصنيفاً للمشكلة ومستوى الأولوية وإجراءً مقترحاً تالياً، وقد يقدّم أداةً لفهرسة المنتجات اسمَ المنتج ووصفاً له ومجموعة من خصائصه، كما يمكن لمساعد جدولة المواعيد توفير وقت البدء ووقت الانتهاء مما يتيح لمكونات برمجية أخرى التحقق من صحة هذه البيانات
في كل حالة من هذه الحالات تصبح الاستجابة أسهل في المعالجة البرمجية لأن بنيتها متوقعة ومحددة
ومع ذلك ثمة فرق جوهري بين البنية الصحيحة والمحتوى الصحيح
JSON فقد يقدّم النموذج بيانات بتنسيق
سليم تماماً لكنها تتضمن إجمالي فاتورة خاطئاً، فقد يحتوي الحقل على نوع البيانات المتوقع لكنه يعبّر عن معلومة غير صحيحة
(Schema validation) لذا يضمن التحقق من المخطط
التزام المخرجات بالتنسيق المطلوب لكنه لا يضمن صحة المعلومات ذاتها
لذا يتطلب التطبيق العملي القوي الجمع بين المخرجات المهيكلة
(Semantic validation) والتحقق الدلالي
إذ يمكن التحقق من منطقية التواريخ وإعادة حساب الإجماليات الرقمية باستخدام برمجيات تقليدية ومقارنة التفاصيل المستخرجة بالوثيقة الأصلية
تكتسب هذه الفكرة أهمية خاصة لمطوري الويب ورواد الأعمال فهي تسهّل دمج الذكاء الاصطناعي في التطبيقات القائمة، فبدلاً من التعامل مع النموذج كمجرد أداة للمحادثة تنتج نصوصاً يمكنك استخدامه كمكون ضمن سير عمل برمجّي أكبر وأكثر تكاملاً، تتمثل القاعدة العامة في أمر بسيط: إذا كان من المفترض أن تؤدي استجابة الذكاء الاصطناعي إلى تنفيذ إجراء برمجِيّ فيجب تصميم صيغتها لتناسب ذلك الإجراء منذ البداية
7. (Model Distillation) تقطير النماذج
تعليم نموذج أصغر لأداء مهمة محددة بكفاءة
تتمتع نماذج الذكاء الاصطناعي الأكثر تطوراً بقدرة على تنفيذ مجموعة واسعة ومذهلة من المهام، لكن هذه القدرات قد تأتي مصحوبة بتكاليف حوسبة أعلى أو زمن استجابة أطول أو متطلبات بنية تحتية قد لا تكون ضرورية للتطبيقات الأبسط توفر عملية “تقطير النماذج” وسيلة لنقل السلوكيات المفيدة من نموذج أكبر أو أكثر قدرة إلى نموذج أصغر، وفي السيناريو المعتاد يعمل النموذج الأكبر
( Teacher Model – المُعلِّم )
على تقديم إشارات تدريبية أو أمثلة تساعد النموذج الأصغر
( Student Model – المتعلِّم )
على تعلم كيفية أداء مهمة محددة
لنتخيل شركة تستخدم نموذجاً لغوياً قوياً لتصنيف رسائل دعم العملاء الواردة، فقد تجمع الشركة بمرور الوقت عدداً كافياً من الأمثلة عالية الجودة التي يمكن استخدامها لتدريب نموذج أصغر حجماً لأداء مهمة التصنيف تلك تحديداً، وإذا وصل هذا النموذج الأصغر إلى مستوى الدقة المطلوب فسيصبح قادراً على معالجة الطلبات الروتينية بتكلفة أقل وبسرعة أكبر
لا يحتاج النموذج “المتعلِّم” إلى محاكاة كل قدرات النموذج “المُعلِّم”، بل يكفي أن يؤدي المهام التي صُمم من أجلها بكفاءة
ومن المهم التمييز هنا، فعملية “التقطير” تختلف عن مجرد ضغط النموذج في ملف أصغر حجماً، كما أنها لا تضمن بالضرورة أن يطابق النموذج الأصغر أداء النموذج الأكبر، إذ تعتمد النتيجة النهائية على أسلوب التدريب وجودة الأمثلة المستخدمة ومدى صعوبة المهمة ونطاق الحالات التي يتعين على النموذج الأصغر التعامل معها
وهناك أيضاً مخاطرة تتعلق بانتقال الأخطاء، فإذا كان النموذج “المُعلِّم” يقدم باستمرار تصنيفات خاطئة أو إجابات مضللة، فقد تظهر هذه الأنماط في بيانات تدريب النموذج “المتعلِّم”، لذا يتعين على المطورين التحقق من مخرجات النموذج “المُعلِّم” واختبار النموذج الناتج بشكل مستقل
بالنسبة للشركات يمكن لعملية التقطير أن تجعل تطبيقات الذكاء الاصطناعي المتخصصة أكثر جدوى من الناحية الاقتصادية، إذ يمكن تشغيل نموذج أصغر على أجهزة أقل تكلفة أو الحصول على استجابة أسرع أو العمل في بيئات لا يُفضل فيها إرسال البيانات إلى خدمات خارجية ضخمة
أما بالنسبة للمطورين فتكمن الفرصة في تحديد المهام التي لا تتطلب كامل قدرات النماذج العامة، حيث يمكن أن تكون مهام مثل التصنيف واستخراج البيانات وتوجيه الطلبات وبعض مهام التوليد المقيدة مرشحة مناسبة لهذا النهج وذلك بناءً على متطلبات الدقة المطلوبة وتتمثل الرؤية الاستراتيجية هنا في أن النموذج الأكثر قيمة لنشاط تجاري معين ليس بالضرورة هو النموذج الأكبر أو الأكثر قوة، قد يكون نموذجاً أصغر وأكثر تخصصاً يؤدي المهمة المطلوبة بكفاءة وموثوقية وبتكلفة تشغيلية أقل بكثير
8. (Quantization) التكميم
تقليل تكلفة تشغيل نماذج الذكاء الاصطناعي
توجد طريقة أخرى لجعل أنظمة الذكاء الاصطناعي أكثر كفاءة دون الحاجة بالضرورة إلى تغيير وظائفها الأساسية وهي تقليل مستوى الدقة المستخدم في تمثيل معاملاتها الرقمية وعملياتها الحسابية
(Quantization) “تُعرف هذه التقنية باسم “التكميم
تُجري نماذج الذكاء الاصطناعي عدداً هائلاً من العمليات الحسابية حيث تُمثَّل معاملاتها والقيم الوسيطة فيها رقمياً غالباً باستخدام صيغ
(floating-point formats) “الفاصلة العائمة”
ذات مستويات دقة متفاوتة، يتيح التكميم تمثيل بعض هذه القيم باستخدام صيغ ذات دقة أقل مما يقلل من متطلبات الذاكرة ويؤدي أحياناً
(inference speed) إلى زيادة سرعة الاستنتاج
لماذا يُعد هذا مهماً؟ يتطلب تشغيل نموذج ضخم ذاكرة كافية لتخزين معاملاته بالإضافة إلى موارد إضافية لمعالجة كل طلب، فإذا نجح التكميم في تقليل المساحة التي يشغلها النموذج في الذاكرة، فقد يصبح من الممكن تشغيله على أجهزة أقل تكلفة أو نشره في بيئات كان سيستحيل فيها تشغيل النسخة الأصلية ذات الدقة الكاملة
تخيل مطوراً يرغب في تشغيل نموذج لغوي محلياً على حاسوبه الشخصي، قد يتجاوز حجم النموذج الأصلي سعة الذاكرة المتاحة بينما يمكن للنسخة “المكمَّمة” أن تتناسب مع حدود الجهاز، وهذا يجعل إجراء التجارب والعمل دون اتصال بالإنترنت وتطوير تطبيقات تراعي خصوصية المستخدم أموراً أكثر سهولة وإتاحة
ومع ذلك ينطوي التكميم على مقايضات، فاستخدام دقة أقل قد يؤثر على الدقة الرقمية وجودة النموذج ويعتمد حجم هذا التأثير على النموذج نفسه وطريقة التكميم المستخدمة وطبيعة المهمة والأجهزة المعتمدة، فبينما توفر بعض إعدادات التكميم فوائد عملية كبيرة مع تراجع طفيف في الجودة قد تؤدي إعدادات أخرى إلى انخفاض ملحوظ في الأداء
من المهم أيضاً التمييز
(Distillation) “بين “التكميم” و”التقطير
فالتكميم يغير طريقة تمثيل القيم الرقمية داخل النموذج أو معالجتها بينما يعتمد “التقطير” على تدريب نموذج “طالب” ليتعلم سلوكاً مفيداً من نموذج “معلم” أو أي مصدر آخر لإشارات التدريب، ورغم إمكانية استخدام التقنيتين معاً إلا أن كلاً منهما يعالج مشكلة مختلفة
بالنسبة لمطوري الذكاء الاصطناعي يُعد التكميم خطوة مهمة لجعل نشر النماذج القوية أقل تكلفة، أما بالنسبة للمستخدمين فهو يوضح لماذا لا يتطلب تشغيل نموذج ما محلياً دائماً نفس الموارد التي تتطلبها نسخته الأصلية ذات الدقة الكاملة
والدرس الأوسع هنا هو أن التقدم في مجال الذكاء الاصطناعي لا يعتمد فقط على زيادة قدرات النماذج، فجعل القدرات الحالية أقل تكلفة وأسرع وأكثر سهولة في الوصول إليها لا يقل أهمية وتأثيراً
9. استخدام الحاسوب – عندما يتفاعل الذكاء الاصطناعي مع الواجهات بدلاً من الاكتفاء بوصفها
صُممت معظم البرمجيات ليتفاعل معها البشر عبر الأزرار والقوائم وحقول النصوص والواجهات المرئية، وفي السابق كان بوسع مساعدي الذكاء الاصطناعي شرح كيفية استخدام هذه الواجهات لكن كان يتوجب على المستخدم البشري تنفيذ عمليات النقر واستخدام لوحة المفاتيح بنفسه
تتيح قدرات “استخدام الحاسوب” لأنظمة ذكاء اصطناعي معينة التفاعل مباشرةً مع الواجهات الرسومية، واعتماداً على كيفية تنفيذ ذلك يمكن للوكيل البرمجي فحص الشاشة وتحديد عنصر تحكم معين والنقر على زر وإدخال نصوص والتنقل بين النوافذ ثم فحص الشاشة الناتجة لتحديد الخطوة التالية
لنتخيل مهمة إدارية متكررة تتطلب فتح متصفح والعثور على سجل معين ونسخ بيانات من حقول محددة إلى جدول بيانات وإعداد ملخص، هنا قد يتمكن وكيل “استخدام الحاسوب” من تنفيذ أجزاء من سير العمل هذا من خلال التفاعل مع نفس الواجهة التي يستخدمها الموظف البشري وتكتسب هذه القدرة أهمية خاصة عندما لا يوفر التطبيق
ملائمة أو تكاملاً مباشراً (API) واجهة برمجة تطبيقات
فبدلاً من الحاجة إلى توفير واجهة مخصصة لكل إجراء يمكن للنظام التفاعل مع العناصر الرسومية المتاحة بالفعل
ومع ذلك، فإن “استخدام الحاسوب” لا يقتصر ببساطة على تعليم الذكاء الاصطناعي كيفية النقر بدقة، فالواجهات الرسومية تتغير، وقد تنتقل العناصر من أماكنها أو تظهر نوافذ منبثقة تقطع سير العمل، كما قد تبدو أزرار مختلفة متشابهة تماماً بينما تؤدي وظائف متباينة، وقد ينقر النظام على عنصر خاطئ أو يسيء قراءة رسالة حالة أو يفشل في إدراك أن إجراءً سابقاً لم يكتمل بنجاح
وهناك أيضاً اعتبارات أمنية، إذ قد يصادف وكيل “استخدام الحاسوب” معلومات خاصة أو إعدادات حساب أو صفحات دفع أو عمليات قد تكون ضارة، لذا يتعين على المطورين تحديد أذونات مناسبة وضمان الحصول على التفويض اللازم قبل تنفيذ أي إجراءات حساسة وهنا تتقاطع تقنية “استخدام الحاسوب” مع مفاهيم أخرى، إذ يحتاج الوكيل إلى إطار عمل لتنسيق إجراءاته
(context engineering) وهندسة سياق
لتزويده بالأهداف والحالة الراهنة
لتشخيص الإخفاقات (observability) وقدرات رصد
(guardrails) وضوابط حماية
لتقييد العمليات الخطرة
(evals) كما يمكن استخدام أدوات التقييم
لقياس مدى نجاح سير العمل بالكامل وبشكل موثوق بالنسبة لرواد الأعمال تكمن الفرصة في تحديد المهام التي يؤديها البشر بشكل متكرر عبر الواجهات الحالية، ومع ذلك لا ينبغي دائماً تفضيل الأتمتة عبر الواجهات الرسومية على استخدام
المباشرة (APIs) واجهات برمجة التطبيقات
فعند توفر تكامل مستقر ومدعوم غالباً ما يكون ذلك أكثر موثوقية من الاعتماد على واجهة عرضة للتغيير، تكمن القيمة الحقيقية لاستخدام الحاسوب في قدرته على توسيع نطاق الأتمتة ليشمل بيئاتٍ كانت ستتطلب -لولا ذلك- تدخلاً بشرياً مستمراً
10. ذاكرة الذكاء الاصطناعي – مساعدة الأنظمة على الاحتفاظ بالمعلومات الصحيحة بمرور الوقت
قد يصبح التفاعل مع مساعد ذكاء اصطناعي أمراً مزعجاً إذا تكرر طلب معلومات سبق للمستخدم تقديمها، وتتفاقم هذه المشكلة في سير العمل الأكثر تعقيداً، إذ قد يحتاج نظام الذكاء الاصطناعي إلى الاحتفاظ بقرارات تتعلق بمشروع ما أو تفضيلات المستخدم أو إجراءات سابقة أو أسئلة لم تُحل وذلك عبر تفاعلات متعددة
تشير “ذاكرة الذكاء الاصطناعي” إلى الآليات التي تتيح للنظام الاحتفاظ بالمعلومات ذات الصلة واسترجاعها متجاوزةً بذلك نطاق سياق المدخلات المباشرة، وتختلف طرق تنفيذ هذه الذاكرة بشكل كبير، فقد تشمل تخزين ملخصات أو قواعد بيانات أو سجلات قابلة للبحث أو تفضيلات وافق عليها المستخدم أو حالات خاصة بمهام معينة يحتفظ بها التطبيق
لنتخيل مساعداً ذكياً يدعم مشروعاً لتطوير المواقع الإلكترونية، ففي الجلسة الأولى يحدد المستخدم نظام التصميم وتقنيات البرمجة المفضلة وقواعد تسمية العناصر، وفي الجلسات اللاحقة قد يحتاج المساعد إلى استرجاع تلك القرارات لتجنب اقتراح حلول غير متوافقة مع ما تم الاتفاق عليه سابقاً
وبدون آلية ذاكرة مناسبة سيضطر النظام إلى الاعتماد فقط على المعلومات المتاحة في سياقه الحالي، أما بوجود الذاكرة فيمكنه استرجاع القرارات ذات الصلة عند استئناف العمل في المشروع
لكن الذاكرة لا تعني ببساطة الاحتفاظ بكل شيء، فخزن كميات مفرطة من المعلومات يؤدي إلى تعقيد غير ضروري كما أن تخزين معلومات خاطئة قد يكون أسوأ من عدم تذكر أي شيء على الإطلاق، فقد تصبح الافتراضات القديمة بالية أو قد تُفسَّر تفاصيل مؤقتة على أنها تفضيلات دائمة أو قد يتم استرجاع سجلات غير ذات صلة عند طرح سؤال جديد
لذا يتطلب تصميم ذاكرة فعالة اتخاذ قرارات دقيقة حول ما يجب الاحتفاظ به ومدة الاحتفاظ به ومتى يتم تحديثه وكيفية تحديد مدى ملاءمته للمهمة الحالية، كما يتطلب الأمر توفير ضوابط خصوصية ملائمة وآلية لتصحيح أي معلومات غير دقيقة أو قديمة
هناك تمييز جوهري
(context window) “بين “نافذة السياق
الخاصة بالنموذج و”نظام الذاكرة” الخاص به، فنافذة السياق تحتوي على المعلومات المتاحة للنموذج خلال خطوة معالجة محددة، بينما يقوم نظام الذاكرة بتخزين المعلومات التي يمكن استرجاعها عبر تفاعلات أو مراحل عمل مختلفة، ورغم إمكانية تكامل الاثنين معاً إلا أنهما ليسا بديلين لبعضهما البعض
بالنسبة للمطورين يمكن للذاكرة أن تجعل منتجات الذكاء الاصطناعي أكثر فائدة في سياق العلاقات المستمرة مع العملاء أو في المشاريع التي تمتد عبر جلسات متعددة، ومع ذلك تظل قيمة هذه الذاكرة مرهونة بمدى صلة المعلومات المخزنة ودقتها والتحكم فيها وليس بحجم البيانات المحتفظ بها، إن أكثر أنظمة الذاكرة كفاءة في الذكاء الاصطناعي ليست تلك التي تخزن أكبر قدر من المعلومات، بل هي الأنظمة التي تسترجع المعلومة المناسبة في الوقت المناسب وتدرك متى يطرأ تغيير على تلك المعلومات وتحترم تحكُّم المستخدم فيما يتم الاحتفاظ به
تكمن الميزة الحقيقية في فهم كيفية ترابط العناصر
تكشف المفاهيم العشرة التي نناقشها هنا عن جانب مهم من مسار الذكاء الاصطناعي، فالمرحلة التالية من التقدم لا تقتصر على إنشاء نماذج قادرة على توليد إجابات أكثر إقناعاً، بل تتعداها إلى بناء أنظمة قادرة على اختيار القدرات المناسبة والتفاعل مع البرامج الموجودة والحفاظ على المعلومات المفيدة وقياس أدائها والعمل ضمن حدود محددة بوضوح
يمنح الذكاء الاصطناعي الفاعل الأنظمةَ وسيلةً لتحقيق أهدافها، ويساعد توجيه النماذج في تخصيص الموارد الحاسوبية، وتوفر التقييمات أدلةً على الأداء، بينما تساعد إمكانية المراقبة المطورين على فهم ما يحدث عند تشغيل النظام، وتضع الضوابط حدوداً وتسهل المخرجات المنظمة استخدام استجابات الذكاء الاصطناعي من قِبل البرامج التقليدية
يتناول التقطير والتكميم جوانب مختلفة من الكفاءة، ويوسع استخدام الحاسوب نطاق الأتمتة ليشمل الواجهات الرسومية، بينما تساعد ذاكرة الذكاء الاصطناعي في الحفاظ على المعلومات ذات الصلة عبر التفاعلات
يحل كل مفهوم من هذه المفاهيم على حدة مشكلات مختلفة، ومعاً تقدم صورةً أكثر شمولاً لكيفية هندسة تطبيقات الذكاء الاصطناعي المفيدة
وهنا تكمن في رأيي الفرصة الأكبر: لا تحتاج إلى ابتكار نموذج ذكاء اصطناعي جديد لإنشاء شيء ذي قيمة باستخدام الذكاء الاصطناعي، تحتاج إلى فهم المشكلة الحقيقية جيداً لتتمكن من بناء القدرات المناسبة لحلها
يمكن لمطور الويب دمج توجيه النماذج والمخرجات المنظمة واستخدام الحاسوب لأتمتة عملية إدارية متكررة، ويمكن لعالم البيانات بناء مساعد بحثي باستخدام الاسترجاع والتقييم والمراقبة، ويمكن لصاحب مشروع صغير استخدام وكيل لتنسيق العمليات الروتينية مع الاحتفاظ بالموافقة البشرية على القرارات المهمة
تصبح التقنية ذات جدوى تجارية عندما تحل مشكلة تهم الناس حقاً، فالبنية المعقدة ليست بالضرورة أفضل من البنية البسيطة والنظام المستقل ليس بالضرورة أكثر فائدة من سير عمل مُحكم
تكمن المهارة الحقيقية في معرفة التقنية المناسبة والمشاكل التي يمكنها حلها والمخاطر التي يجب إدارتها قبل الوثوق بها في مهام حقيقية
لذا في المرة القادمة التي تصادف فيها منتجاً جديداً للذكاء الاصطناعي انظر إلى ما هو أبعد من العرض التوضيحي المبهر، اسأل عن كيفية تعامله مع الطلبات الصعبة وكيفية التحقق من نتائجه وماذا يحدث عند تعطل أداة ما وما إذا كان أداؤه قد تم قياسه مقابل مهام واقعية، ستساعدك هذه الأسئلة على التمييز بين التقدم الهندسي الحقيقي والضجة التسويقية
والآن يثير فضولي معرفة وجهة نظرك: أيٌّ من هذه المفاهيم العشرة تعتقد أنها ستخلق أكبر الفرص خلال السنوات القليلة القادمة؟ هل تفضل بناء وكيل ذكاء اصطناعي مستقل أم تطوير نموذج متخصص أم إنشاء سير عمل متكامل يعتمد على الذكاء الاصطناعي لحل مشكلة تجارية محددة؟
شاركنا آراءك في التعليقات، فغالباً ما تظهر الفرص الأكثر إثارة للاهتمام عندما تلتقي المعرفة التقنية بمشكلاتٍ ظل الناس يعانون منها لسنوات
