Whalesbook
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਹਥਿਆਰਾਂ ਦੀ ਦੌੜ
ਪ੍ਰੋਜੈਕਟ ਗਲਾਸਵਿੰਗ (Project Glasswing) ਦਾ 15 ਦੇਸ਼ਾਂ ਵਿੱਚ 150 ਸੰਸਥਾਵਾਂ ਤੱਕ ਤੇਜ਼ੀ ਨਾਲ ਵਿਸਥਾਰ ਕਰਨਾ, Anthropic ਵੱਲੋਂ ਪ੍ਰੋਐਕਟਿਵ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੇ ਖੇਤਰ ਵਿੱਚ ਆਪਣੀ ਧਾਕ ਜਮਾਉਣ ਦੀ ਇੱਕ ਚਾਲ ਹੈ। Claude Mythos Preview ਨੂੰ ਇੱਕ ਅੰਦਰੂਨੀ ਖੋਜ ਸਾਧਨ ਤੋਂ ਇੱਕ ਵੱਡੇ ਪੱਧਰ ਦੇ ਉਪਯੋਗ (utility) ਵਿੱਚ ਬਦਲ ਕੇ, ਕੰਪਨੀ ਸੋਫਟਵੇਅਰ ਵਿਕਰੇਤਾਵਾਂ (vendors) ਅਤੇ ਓਪਨ-ਸੋਰਸ ਮੇਨਟੇਨਰਾਂ ਲਈ ਇੱਕ ਨਵਾਂ ਪ੍ਰਮਾਣ (standard) ਸਥਾਪਿਤ ਕਰ ਰਹੀ ਹੈ। ਖੋਜ ਤੋਂ ਸੁਧਾਰ (remediation) ਤੱਕ ਦਾ ਸਫ਼ਰ ਹੀ ਅਸਲੀ ਮੁੱਲ ਹੈ; ਸ਼ੁਰੂਆਤੀ ਭਾਗੀਦਾਰਾਂ ਵੱਲੋਂ 10,000 ਤੋਂ ਵੱਧ ਕ੍ਰਿਟੀਕਲ-ਸਿਵਰਿਟੀ ਖਾਮੀਆਂ (flaws) ਦੀ ਰਿਪੋਰਟਿੰਗ, ਆਟੋਮੇਟਿਡ ਕੋਡ ਆਡਿਟਿੰਗ ਨਾਲ ਤਾਲਮੇਲ ਬਿਠਾਉਣ ਵਿੱਚ ਆ ਰਹੇ ਮੁਸ਼ਕਲ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ।
ਬਚਾਅ ਸਮਰੱਥਾ ਦਾ ਵਿਸਥਾਰ
ਰਵਾਇਤੀ ਸਟੈਟਿਕ ਐਨਾਲਿਸਿਸ ਟੂਲਸ, ਜਿਹਨਾਂ ਵਿੱਚ ਫਾਲਸ-ਪਾਜ਼ੀਟਿਵ ਰੇਟ ਜ਼ਿਆਦਾ ਹੁੰਦਾ ਹੈ, ਦੇ ਉਲਟ, Mythos-ਕਲਾਸ ਮਾਡਲਾਂ ਨੂੰ ਵਧੀਆ ਐਡਵਰਸਰੀਅਲ ਧਮਕੀਆਂ (adversarial threats) ਦਾ ਸਿਮੂਲੇਸ਼ਨ ਕਰਨ ਲਈ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ ਬਦਲਾਅ ਸੋਫਟਵੇਅਰ ਡਿਵੈਲਪਮੈਂਟ ਲਾਈਫਸਾਈਕਲ ਵਿੱਚ ਆ ਰਹੀ ਰੁਕਾਵਟ ਨੂੰ ਦੂਰ ਕਰਦਾ ਹੈ: ਯਾਨੀ ਮੈਨੂਅਲ ਵੈਰੀਫਿਕੇਸ਼ਨ ਅਤੇ ਪੈਚਿੰਗ ਪ੍ਰਕਿਰਿਆ। ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿੱਧਾ ਪ੍ਰੀ-ਰੀਲੀਜ਼ ਵਾਤਾਵਰਨ (pre-release environments) ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ (integrate) ਕਰਕੇ, Anthropic ਆਪਣੇ ਆਪ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕੋਡ ਲਈ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਲੇਅਰ ਵਜੋਂ ਸਥਾਪਿਤ ਕਰ ਰਿਹਾ ਹੈ। ਇਹ ਕਦਮ Microsoft ਅਤੇ Google ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਦੇ ਰੁਝਾਨਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ, ਜੋ ਜ਼ੀਰੋ-ਡੇ ਐਕਸਪਲੋਇਟਸ (zero-day exploits) ਦੀ ਵਧ ਰਹੀ ਗਤੀ ਨਾਲ ਲੜਨ ਲਈ ਜਨਰੇਟਿਵ AI ਨੂੰ ਸੁਰੱਖਿਆ ਕਾਰਜਾਂ (security operations) ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਏਕੀਕ੍ਰਿਤ ਕਰ ਰਹੇ ਹਨ।
ਫੋਰੈਂਸਿਕ ਬੇਅਰ ਕੇਸ (The Forensic Bear Case)
AI-ਡਰਾਈਵਨ ਵਲਨਰੇਬਿਲਟੀ ਡਿਸਕਵਰੀ ਟੂਲਜ਼ ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਫੈਲਣਾ ਗੰਭੀਰ ਸੰਰਚਨਾਤਮਕ ਜੋਖਮ (structural risks) ਪੈਦਾ ਕਰਦਾ ਹੈ। ਜੇਕਰ Anthropic ਦੇ ਮਾਡਲ ਦੋ ਮਹੀਨਿਆਂ ਤੋਂ ਘੱਟ ਸਮੇਂ ਵਿੱਚ 10,000 ਕ੍ਰਿਟੀਕਲ ਖਾਮੀਆਂ ਲੱਭ ਸਕਦੇ ਹਨ, ਤਾਂ ਇਹ ਸੰਭਵ ਹੈ ਕਿ ਸਮਾਨ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ, ਘੱਟ-ਲਾਗਤ ਵਾਲੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਮੰਦਭਾਗੇ ਅਦਾਕਾਰ (malicious actors) ਜਲਦੀ ਹੀ ਬਰਾਬਰੀ ਹਾਸਲ ਕਰ ਲੈਣਗੇ। ਮੁੱਖ ਚਿੰਤਾ ਸਿਰਫ਼ ਇਹਨਾਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਖੋਜ ਹੀ ਨਹੀਂ, ਬਲਕਿ ਪਬਲਿਕ ਡਿਸਕਲੋਜ਼ਰ ਅਤੇ ਸਫਲ ਪੈਚਿੰਗ ਦੇ ਵਿਚਕਾਰ ਐਕਸਪੋਜ਼ਰ ਦੇ ਸਮੇਂ (window of exposure) ਦੀ ਹੈ। ਜੇਕਰ Claude Security ਅਤੇ ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਟੂਲਜ਼ ਦੀ ਵਰਤੋਂ ਤੇਜ਼ ਰੈਮੇਡੀਏਸ਼ਨ ਚੱਕਰ (remediation cycle) ਦਾ ਨਤੀਜਾ ਨਹੀਂ ਦਿੰਦੀ, ਤਾਂ ਇਹ ਪਹਿਲ ਅਨजाने ਵਿੱਚ ਇੱਕ ਰੱਖਿਆਤਮਕ ਢਾਲ (defensive shield) ਦੀ ਬਜਾਏ ਸ਼ੋਸ਼ਣ (exploitation) ਲਈ ਇੱਕ ਰੋਡਮੈਪ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦੀ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਕ੍ਰਿਟੀਕਲ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਆਡਿਟਿੰਗ ਲਈ ਇੱਕ ਕਲੋਜ਼ਡ-ਸੋਰਸ AI ਮਾਡਲ 'ਤੇ ਨਿਰਭਰ ਰਹਿਣਾ ਇੱਕ ਸਿੰਗਲ ਪੁਆਇੰਟ ਆਫ ਫੇਲੀਅਰ (single point of failure) ਬਣਾਉਂਦਾ ਹੈ, ਜੋ ਕਿ ਸਰਕਾਰੀ ਅਤੇ ਕ੍ਰਿਟੀਕਲ ਯੂਟਿਲਿਟੀ ਸੈਕਟਰਾਂ ਵਿੱਚ ਅਕਸਰ ਲੋੜੀਂਦੀ ਪਾਰਦਰਸ਼ਤਾ (transparency) ਦੇ ਸਿਧਾਂਤਾਂ ਦੇ ਵਿਰੁੱਧ ਜਾ ਸਕਦਾ ਹੈ।
ਭਵਿੱਖ ਦਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਅਤੇ ਮਾਰਕੀਟ ਪੁਜ਼ੀਸ਼ਨਿੰਗ
Anthropic ਦਾ ਰੁਝਾਨ ਸੁਰੱਖਿਆ ਨੂੰ ਇੱਕ ਸੇਵਾ ਵਜੋਂ ਮੋਨਟਾਈਜ਼ (monetize) ਕਰਨ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ, ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ Claude Security ਦੇ ਸੁਧਰੇ ਹੋਏ ਸੰਸਕਰਣਾਂ (iterations) ਰਾਹੀਂ। ਜਿਵੇਂ ਕਿ ਕੰਪਨੀ CrowdStrike ਅਤੇ Palo Alto Networks ਵਰਗੇ ਸਥਾਪਿਤ ਪ੍ਰਤੀਯੋਗੀਆਂ (incumbents) ਦੇ ਮੁਕਾਬਲੇ ਬਾਜ਼ਾਰ ਹਿੱਸੇਦਾਰੀ (market share) ਲਈ ਮੁਕਾਬਲਾ ਕਰਦੀ ਹੈ, ਮੁੱਖ ਫਰਕ (differentiator) ਮਾਡਲ ਦੀ ਗਲਤੀਆਂ ਨੂੰ ਸਿਰਫ਼ ਫਲੈਗ ਕਰਨ ਦੀ ਬਜਾਏ ਕਾਰਜਸ਼ੀਲ ਪੈਚ (functional patches) ਤਿਆਰ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਹੈ। ਨਿਵੇਸ਼ਕਾਂ (Investors) ਨੂੰ ਇਸ ਗੱਲ 'ਤੇ ਨਜ਼ਰ ਰੱਖਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਇਹ ਸੰਸਥਾਵਾਂ AI-ਸੁਝਾਏ ਗਏ ਪੈਚਾਂ ਨੂੰ ਆਪਣੇ ਪ੍ਰੋਡਕਸ਼ਨ ਵਾਤਾਵਰਣ ਵਿੱਚ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਏਕੀਕ੍ਰਿਤ ਕਰਦੀਆਂ ਹਨ, ਕਿਉਂਕਿ ਪ੍ਰੋਗਰਾਮ ਦੀ ਅਸਲ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ (efficacy) ਮਿਲੀਆਂ ਬੱਗਾਂ ਦੀ ਗਿਣਤੀ ਦੁਆਰਾ ਨਹੀਂ, ਬਲਕਿ ਆਉਣ ਵਾਲੇ ਵਿੱਤੀ ਸਾਲ (fiscal year) ਦੌਰਾਨ ਸਫਲ ਬ੍ਰੀਚਾਂ (breaches) ਵਿੱਚ ਕਮੀ ਦੁਆਰਾ ਮਾਪੀ ਜਾਵੇਗੀ।