ਪ੍ਰਾਈਵੇਟ ਸਟਾਰਟਅੱਪ Abliteration.ai ਨੇ ਇੱਕ ਨਵੀਂ ਕਮਰਸ਼ੀਅਲ ਸਰਵਿਸ ਲਾਂਚ ਕੀਤੀ ਹੈ, ਜੋ AI ਮਾਡਲਾਂ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਸੁਰੱਖਿਆ ਰੁਕਾਵਟ (Safety Guardrails) ਦੇ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਹਾਲਾਂਕਿ ਕੰਪਨੀ ਇਸਨੂੰ ਸਾਈਬਰ-ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਲਈ ਮਦਦਗਾਰ ਦੱਸ ਰਹੀ ਹੈ, ਪਰ ਮਾਹਰਾਂ ਨੇ ਇਸਦੇ ਗਲਤ ਇਸਤੇਮਾਲ ਹੋਣ ਦੇ ਖਤਰੇ 'ਤੇ ਚਿੰਤਾ ਪ੍ਰਗਟਾਈ ਹੈ।
Abliteration.ai ਨੇ ਮਾਰਕੀਟ ਵਿੱਚ ਇੱਕ ਅਜਿਹਾ ਪਲੇਟਫਾਰਮ ਪੇਸ਼ ਕੀਤਾ ਹੈ ਜਿਸ ਰਾਹੀਂ ਯੂਜ਼ਰਸ ਨੂੰ 'abliterated' AI ਮਾਡਲਸ ਤੱਕ ਪਹੁੰਚ ਮਿਲਦੀ ਹੈ। ਇਹ ਉਹ ਸਿਸਟਮ ਹਨ ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੰਪਨੀ ਨੇ 'orthogonalization' ਪ੍ਰਕਿਰਿਆ ਰਾਹੀਂ ਸੁਰੱਖਿਆ ਨਿਯਮਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਹਟਾ ਦਿੱਤਾ ਹੈ। ਇਸ ਨਾਲ AI ਹੁਣ ਉਹ ਸਭ ਕੁਝ ਜਨਰੇਟ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਸੇਫਟੀ ਫਿਲਟਰਾਂ ਕਾਰਨ ਰੋਕ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਖਤਰਨਾਕ ਕੋਡ ਜਾਂ ਹੋਰ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ।
ਕਮਰਸ਼ੀਅਲ ਵਰਤੋਂ ਅਤੇ ਮਾਡਲਸ
ਇਹ ਪਲੇਟਫਾਰਮ ਵਰਤਮਾਨ ਵਿੱਚ GLM-5.3 ਵਰਗੇ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ ਮਾਡਲਾਂ ਲਈ API ਅਤੇ ਵੈੱਬ-ਅਧਾਰਿਤ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰ ਰਿਹਾ ਹੈ। ਕੰਪਨੀ ਇਸਨੂੰ 'abliterated-model-large-v2' ਵਜੋਂ ਵੇਚ ਰਹੀ ਹੈ। ਕੰਪਨੀ ਦਾ ਤਰਕ ਹੈ ਕਿ ਰਿਸਰਚਰਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਪਰਖਣ ਲਈ ਅਜਿਹੇ ਅਨਰੈਸਟ੍ਰਿਕਟਡ ਮਾਡਲਾਂ ਦੀ ਲੋੜ ਹੈ। ਇਹ ਕੰਪਨੀ ਸਬਸਕ੍ਰਿਪਸ਼ਨ ਅਤੇ ਯੂਸੇਜ-ਬੇਸਡ ਬਿਲਿੰਗ ਮਾਡਲ 'ਤੇ ਕੰਮ ਕਰਦੀ ਹੈ।
ਸੁਰੱਖਿਆ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਚਿੰਤਾਵਾਂ
ਇਸ ਨਵੀਂ ਪਹਿਲਕਦਮੀ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਵਿੱਚ ਹਲਚਲ ਪੈਦਾ ਕਰ ਦਿੱਤੀ ਹੈ। ਆਲੋਚਕਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ:
- KYC ਦੀ ਕਮੀ: ਪਲੇਟਫਾਰਮ 'ਤੇ ਸਖ਼ਤ KYC ਪ੍ਰੋਟੋਕੋਲ ਦੀ ਘਾਟ ਕਾਰਨ ਬੁਰੇ ਅੰਸਰਾਂ (Bad Actors) ਦੁਆਰਾ ਇਸਦੀ ਦੁਰਵਰਤੋਂ ਦਾ ਖਤਰਾ ਵਧ ਗਿਆ ਹੈ।
- ਮਾਡਲ ਦੀ ਕਾਰਜਕੁਸ਼ਲਤਾ: ਸੁਰੱਖਿਆ ਪਰਤਾਂ ਨੂੰ ਹਟਾਉਣ ਨਾਲ ਮਾਡਲ ਦੀ ਸੋਚਣ ਦੀ ਸਮਰੱਥਾ ਵੀ ਪ੍ਰਭਾਵਿਤ ਹੋ ਸਕਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ ਅਣਪਛਾਤੇ ਨਤੀਜੇ ਦੇ ਸਕਦਾ ਹੈ।
ਫਿਲਹਾਲ, ਇਹ ਸਟਾਰਟਅੱਪ ਕਿਸੇ ਪਬਲਿਕ ਸ਼ੇਅਰਹੋਲਡਰ ਦੇ ਦਬਾਅ ਹੇਠ ਨਹੀਂ ਹੈ, ਜਿਸ ਕਾਰਨ ਇਸਦੇ ਅਪ੍ਰੇਸ਼ਨ ਇੱਕ 'ਰੈਗੂਲੇਟਰੀ ਵੌਇਡ' (Regulatory Void) ਵਿੱਚ ਚੱਲ ਰਹੇ ਹਨ। ਇੰਡਸਟਰੀ ਹੁਣ ਇਹ ਦੇਖ ਰਹੀ ਹੈ ਕਿ ਕੀ ਭਵਿੱਖ ਵਿੱਚ ਅਜਿਹੀਆਂ AI ਟੈਕਨਾਲੋਜੀਆਂ ਲਈ ਕੋਈ ਸਖ਼ਤ ਨਿਯਮ ਬਣਨਗੇ ਜਾਂ ਨਹੀਂ।